Нам стоит опасаться не восстания машин

Наука

Армия разумных роботов уничтожает человеческую расу и заменяет ее собой.

Звучит как сценарий плохого фильма, но на самом деле это фраза Стивена Хокинга, самого известного космолога в мире, который на прошлой неделе заявил в своем интервью BBC о том, что очень беспокоится насчет того, что искусственный интеллект и механизмы могут перегнать человека в развитии.

Stephen Hawking and out of control computers from I, Robot

«Развитие полностью искусственного интеллекта может приблизить конец человеческой расы. Он отделится от нас, будет сам развиваться и улучшать себя в геометрической прогрессии», сказал профессор Хокинг. «Люди, ограниченные медленной эволюцией, не смогут с этим соревноваться и будут побеждены».

Его апокалиптические представления не сходятся, однако, с точкой зрения эксперта по искусственному интеллекту.

«Редко когда удается уличить гения с мировым именем в неправоте, но в своем предсказании об искусственном интеллекте и будущем человечества, профессор Хокинг ошибается», говорит Марк Бишоп, профессор когнитивных вычислений в Голдсмите, Университете Лондона.

Профессор Хокинг не одинок в своем беспокойстве о растущей силе искусственного интеллекта (ИИ) и его возможности создавать роботов, могущих одновременно самовоспроизводиться и развиваться, становиться умнее, что может привести к «сингулярности» – моменту, когда человечество останется позади.

Первым о сингулярности в 1950-х заговорил математик Джон фон Нейман, а через пару десятков лет идею популяризовал футуролог Рей Курцвейл.

17-SpaceOdyssey.jpg

Профессор Кевин Уорвик из Университета Ридинга говорил о чем-то подобном в 1997 году, во время рекламы своей книги «Марш Машин», а чуть позднее Элон Маск, один из создателей PayPal, тоже предупреждал об ИИ как о высшей экзистенциальной угрозе, за которой необходимо следить.

Но, по словам профессора Бишопа, они ошибаются, ведь у так называемых «умных» компьютеров нет ключевых человеческих способностей, таких как сознание и понимание.

“А это значит, что между искусственным интеллектом и человеческим разумом всегда будет стоять «нехватка человечности». Из-за нее человек, работающий в связке с ИИ, всегда будет мощнее, чем просто ИИ”, говорит профессор.

“Именно это и защищает нас от резкого скачка в развитии ИИ, о котором говорит Хокинг – ИИ, создающий лучшую версию ИИ до тех пор, пока интеллект машины не станет лучше человеческого сознания, что приведет к сингулярности, когда ИИ станет лучше человека во всех областях”.

Боязнь разумных механизмов гуляет по человеческим умам на протяжении десятилетий. Почти сто лет назад чешский режиссер Карел Чапек придумал слово «робот», означающее «раб», чтобы описать, как машины поработили человечество.

«История этого предмета засорена исследователями, которые заявляли, что совершили прорыв в создании ИИ, только чтобы потом общество, завышенные ожидания которого не были достигнуты, их осудило», говорит профессор Бишоп. Но что его действительно беспокоит в ИИ, так это то, как сильно человечество опирается на так называемые разумные машины.

«Меня очень волнует потенциальная заинтересованность военных в создании роботизированных боевых систем – тех, что действуют на поле битвы без участия человека – особенно потому что в данный момент ИИ не особенно развит и вполне может привести к ужасным последствиям», добавляет он.

«Так что можно легко понять, что ИИ может представлять вполне ощутимую угрозу для человечества, даже не достигая уровня сверхчеловеческого интеллекта», говорит он. Мы действительно должны беспокоиться насчет ИИ, но по причинам, противоположным тем, о которых заявил профессор Хокинг, объяснил Бишоп.

Оригинал: http://www.independent.co.uk/news/science/stephen-hawking-right-about-dangers-of-ai-but-for-the-wrong-reasons-says-eminent-computer-expert-9908450.html

Оцените статью
Добавить комментарий
  1. Самир Мамеев
    Самир Мамеев

    Короткометражка в тему

  2. Александр Юдин
    Александр Юдин

    “А это значит, что между искусственным интеллектом и человеческим разумом всегда будет стоять «нехватка человечности». Из-за нее человек, работающий в связке с ИИ, всегда будет мощнее, чем просто ИИ”, говорит профессор”

    Rly?! Вроде бы учёный, учёный области ИИ, но считает, что люди особенные. Видимо стереотип про Британских учёных не столь преувеличен.
    Эмоции возможно эмулировать – если есть природные, то ничто не мешает создать искусственные.
    Души нет, а человеческие эмоции, как и сознание всего лишь хим-электро деятельность мозга, ничего недостижимого. Сложно, но не невозможно.
    В чём ИИ будет менее человечен – это глупость и ошибки, что свойственны человеку, в остальном его можно сделать куда более “человечным”.

    1. Самир Мамеев
      Самир Мамеев

      Александр, а если ИИ придет к заключению, что быть человечным – глупо?

      1. Александр Юдин
        Александр Юдин

        Самир, возможно, если это чисто сознательный вывод, для него наверняка должны быть весьма весомые причины. Я не могу представить причин по которым разумное существо пришло бы к такому выводу, если его зараннее не программировать агрессивным, по крайней мере судя по умнешим из хомо сапиенс сапиенс, а они более дружелюбны к другим людям (хотя ИИ немного другое, но всё же пример).