Технологии

Революция в области искусственного интеллекта. Часть I

admin
Всего просмотров: 143

Среднее время на прочтение: 22 минуты, 38 секунд

c.brightcove.com/services/mobile/streaming/index/master.m3u8?videoId=4774409291001&pubId=3891678521001
Революция в сфере искусственного интеллекта привела нас на грань зарождения нового вида? Как скоро машины станут умней нас?

«Добро пожаловать в детский сад для роботов», — приветствует Питер Эббил, открывая двери Лаборатории Машинного Обучения, расположенной на седьмом этаже стильного нового здания на северной окраине кампуса Калифорнийского университета в Беркли. В лаборатории царит творческий беспорядок: велосипеды у стены, дюжина аспирантов в неприбранных рабочих кабинках, маркерные доски исписаны неразборчивыми уравнениями. 38-летний Эббил выглядит худым, но жилистым, одет в джинсы и растянутую футболку. В 2000 году он переехал из Бельгии в США, чтобы получить докторскую степень в области компьютерных наук в Стэнфордском университете, и сейчас, будучи мировым специалистом в этой сфере, он как никто другой понимает, насколько сложно обучить роботов грамотному мышлению. Но для начала он должен научить их хотя бы просто «думать». «Поэтому мы и зовем это место детским садом», — шутит Эббил.

Он знакомит меня с Бреттом — антропоморфным роботом ростом 1,8 метра, созданным компанией Willow Garage, высококлассным производителем робототехники из Кремниевой долины, ныне обанкротившейся. Лаборатория приобрела этого робота несколько лет назад для экспериментов. Имя Бретт (Brett) означает «Робот для выполнения скучных задач, созданный в Беркли (Berkeley Robot for the Elimination of Tedious Tasks)». Бретт — это дружелюбно выглядящее существо с большой, плоской головой и широко расположенными камерами вместо глаз, широким корпусом, двумя руками с клешнями на концах и колесами вместо ног. Сейчас для Бретта нерабочее время, он стоит в центре лаборатории с таинственной, тихой грацией выключенного робота. Рядом на полу стоит коробка игрушек, которыми Эббил и студенты учат Бретта играть: деревянный молоточек, пластиковый самолет, несколько огромных Lego-блоков. Бретт — один из множества роботов в лаборатории. В другой офисной кабинке безымянный полуметровый робот свисает со спинки стула на веревке. Внизу в подвале держат промышленного робота, которому каждый день часами дают играть в аналог песочницы для роботов только для того, чтоб посмотреть, сможет ли он научиться чему-нибудь сам. Через дорогу, в другой лаборатории Беркли, хирургический робот учится сшивать человеческую плоть, пока аспирант учит дронов самостоятельно огибать препятствия. «Мы не хотим, чтобы дроны врезались в окружающие вещи и падали с неба, — говорит Эббил, — мы пытаемся научить их видеть».

Промышленные роботы уже давно программируются на конкретные задачи: подвинуть руку на 6 дюймов влево, взять модуль, развернуться вправо, вставить модуль в печатную плату. Повторять 300 раз каждый час. Эти машины не умнее самой обычной газонокосилки. Но за последние годы прорыв в области обучения машин — создание алгоритмов, в общих чертах имитирующих работу человеческого мозга и позволяющих машинам учиться самостоятельно — дал компьютерам исключительную возможность распознавать речь и зрительные образы. Задача Эббила состоит в том, чтобы наделить роботов чем-то вроде общего уровня развития, позволившего бы им понять мир и научиться выполнять работу самостоятельно. Впереди у него долгий путь. «Способность к обучению у роботов не может сравниться даже с уровнем 2-летнего ребенка», — рассказывает Эббил. К примеру, Бретт научился выполнять такие простые задачи, как завязывание узла или складывание белья для стирки. Вещи, которые легко получаются у людей, например, распознавание в скомканном кусочке ткани на столе полотенца, даются роботам с большим трудом. Отчасти это происходит потому, что роботам не знакомо понятие здравого смысла, у них нет воспоминаний о предыдущих попытках сложить полотенце, и, самое главное, у них отсутствует общее представление о том, что такое полотенце в принципе. Все, что видит робот — это цветной комок.

Чтобы обойти эту проблему, Эббил изобрел самообучающийся алгоритм, на который его вдохновили кассеты с видеоуроками по психологии, где дети постоянно изменяли подход к решению задачи, чтобы ее выполнить. Сейчас, когда Бретт сортирует одежду для стирки, он делает похожую вещь: хватает скомканное полотенце своими руками-клешнями, пытается понять, какой оно формы и как его складывать. Звучит примитивно, и так оно и есть. Но затем ты прокручиваешь эту мысль в голове еще раз: Робот учится складывать полотенце.

Все это жутковато и напоминает мир Франкенштейна. Сложность задач, которые могут выполнять разумные машины, растет в геометрической прогрессии. Куда в конечном счете это нас приведет? Если робот может научиться самостоятельно складывать полотенце, научится ли он когда-нибудь готовить вам ужин, выполнять хирургические операции, или даже вести войну? Искусственный интеллект вполне может помочь решить самые сложные проблемы, с которыми приходится сталкиваться человечеству — рак или глобальное потепление, но в ближайшем будущем вполне возможно, что он может поспособствовать расширению возможностей слежки, разрушению границ личного пространства, а также наделению телемаркетологов еще большими возможностями. Кроме того, есть и более серьезные вопросы: будут ли машины когда-либо способны мыслить самостоятельно, обдумывать проблемы, испытывать эмоции? Никто не знает. Восстание разумных машин не похоже ни на одну другую научно-техническую революцию, поскольку на карту может быть поставлено существование самого человечества. Возможно, мы находимся на грани создания новой формы жизни, которая может обозначить не только эволюционный прорыв, но и потенциальную угрозу продолжению существования человечества как вида.


Бретт («Робот для выполнения скучных задач, созданный в Беркли») — антропоморфный робот, который научился строить и сортировать объекты. Фото: Спенсер Лоуэл

Эббил ведет меня к своему офису — рабочему месту без окна — где он рассказывает о недавних достижениях компании DeepMind — стартапа в области ИИ, который был куплен компанией Google в 2014 году предположительно за $400 миллионов. Пару лет назад DeepMind потрясли научное сообщество, обучив компьютер играть в видеоигры, например, в Space Invaders от Atari, лучше любого человека. Но, что удивительно, это было сделано без программирования компьютера на понимание правил игры. Это не было похоже на то, как Deep Blue (шахматный компьютер — прим. Newочём) победил человека в шахматы, когда правила игры были занесены в его программу. Все, что было известно компьютеру — нужно набрать наибольшее количество очков. Компьютер пользовался особым методом обучения — обучением с подкреплением, который сродни тому, как мы хвалим пса, говоря ему «хороший мальчик», когда тот сделал что-то правильно. Таким образом, компьютер пробовал разные стратегии в игре и выучил все правила сам. Уже через несколько часов он мог играть на сверхчеловеческом уровне. Это стало главным прорывом в области искусственного интеллекта — момент, когда компьютер впервые самостоятельно обучился сложному навыку.

Это заинтриговало ученых из лаборатории Эббила, и они решили поэкспериментировать с алгоритмом обучения с подкреплением, похожим на тот, что они написали, чтобы помочь роботам научиться плавать, прыгать и ходить. Как он будет работать с видеоиграми? К их удивлению, способ, известный как алгоритм доверительной области (Trust Region Policy Optimization) или TRPO, достиг почти таких же хороших результатов, как алгоритм DeepMind. Другими словами, TRPO обнаружил способность к обучению в обобщенном виде. «Мы обнаружили, что TRPO может побеждать людей в видеоиграх, — рассказывает Эббил, — а не просто учить робота ходить».

Эббил показывает видео. На нем программа-симулятор робота. На первых кадрах показывают робота, лежащего на черно-белом клетчатом полу. «Помни, что это тот же алгоритм, что и в видеоиграх». Роботу поставили три задачи: пройти так далеко, как это возможно, не топать слишком сильно и держать корпус не ниже определенной высоты. «Он не знает, что такое ходьба, — рассказывает Эббил. — Он не знает, что у него есть руки и ноги — ничего подобного. У него есть только цель. Он должен догадаться, как ее достигнуть».

Эббил нажимает на кнопку и симуляция начинается. Робот корчится на полу, не понимая, что он делает. «Теоретически, он мог бы решить пойти, прыгнуть, или поскакать,» — говорит Эббил. Но алгоритм в режиме реального времени «учится» тому, что если он поставит ноги перед собой, то сможет двигаться вперед. Это позволяет роботу анализировать свои предыдущие действия и выбирать из них то, которое привело к наилучшему результату. В соответствии с этим робот отстраивает последующее движение. Вскоре робот начинает плестись, раскачиваясь, будто пьяный. Он подает корпус вперед, падает, снова поднимается, делает несколько шагов, и опять падает. Но постепенно он встает и начинает, спотыкаясь, бежать к цели. Заметно, как он будто бы набирается уверенности, ставя ноги впереди себя, двигаясь все плавнее и быстрее. Робот не знает, что он бежит. Он не был запрограммирован на то, чтобы бежать. Но, несмотря на это, он бежит. Он самостоятельно вычислил, как балансировать и управлять конечностями. Это не просто удивительно — это невероятно. Как смотреть на рыбу, которая за 40 секунд превращается в человека.

«Робот выглядит почти что живым, когда он движется и делает первые шаги», — делюсь я своими впечатлениями.
«Почти что», — улыбается Эббил

Несмотря на то, каким показывают искусственный интеллект в книгах и фильмах, это не синтетический мозг, который плавает где-то в пространстве, погруженный в синюю жидкость. Это алгоритм — математическое уравнение, которое говорит компьютеру, какие функции он должен выполнить (представьте себе это как кулинарный рецепт для машин). В XXI веке алгоритмы значат то же, что в XIX веке значил уголь — это двигатель нашей экономики и топливо для современной жизни. Без алгоритмов не работал бы ваш телефон. Не было бы ни Facebook, ни Google, ни Amazon. Алгоритмы составляют расписания полетов и затем управляют самолетами, они же помогают врачам ставить диагнозы. «Если бы все алгоритмы внезапно перестали работать, это положило бы конец миру, каким мы его знаем», — пишет Педро Доминьос в своей книге «Универсальный Алгоритм» — популярном труде о машинном обучении. В мире ИИ открытие того самого алгоритма, который позволит машинам понимать мир — это своего рода Святой Грааль, цифровой эквивалент Стандартной Модели в физике, при помощи которой ученые пытаются объяснить, как работает вселенная.


Демис Хассабис из Google DeepMind в офисе в центральном Лондоне. Хассабис — нейробиолог, дизайнер компьютерных игр и игрок мирового класса. Он является ведущим британским исследователем в области ИИ. Фото: Мэтт Риттл/Redux

Математические алгоритмы существуют уже на протяжении тысячелетий и лежат в основе современных методов программирования. В компьютер вводят данные, он делает свою работу, и алгоритм выдает результат. Ученые смогли вывернуть этот процесс наизнанку, позволив компьютерам писать свои собственные алгоритмы. Предположим, вы бы хотели совершить полет на вертолете вниз головой: вы пишете алгоритм, который дает компьютеру информацию о системе управления вертолетом (входные данные), потом даете указания о том, как именно и под каким углом вы бы хотели лететь (требуемый результат), и вуаля — компьютер выдает алгоритм, который указывает вертолету, как лететь вниз головой. Этот процесс, называемый машинным обучением — идея, которая стоит за ИИ; если машина может обучить себя управлять вертолетом так, чтобы он летел вниз головой, возможно, она также способна научиться делать другие вещи — например, найти вам любовь на Tinder или распознать ваш голос в разговоре по iPhone, или же, если говорить о маловероятном будущем, превратиться в Skynet, штампующий Терминаторов. «Искусственный интеллект — это наука о том, как научить машины мыслить», — считает Демис Хассабис, сооснователь DeepMind.

Конечно, мы уже окружены умными машинами. При использовании Google Maps алгоритмы находят кратчайший путь и высчитывают время простоя в пробках, основываясь на данных реального времени и упреждающего анализа движения. Способность Google Voice распознавать вашу речь основывается на нейронных сетях — типе машинного самообучения, который позволяет компьютерам превращать ваши слова в биты звука, сравнивать их с другими битами и понимать ваши вопросы. Facebook борется с нежелательным контентом, сканируя миллионы картинок программами для распознавания изображений, которые отмечают видео с отсечением голов и фотографии пенисов.

Куда приведет улучшение умных машин? У жизни на Земле ушло три миллиарда лет, чтобы выползти из ила и достичь разумного состояния. Компьютерам же понадобилось шестьдесят лет, чтобы развиться от куска кремния до устройства, способного вести машину через всю страну или распознавать лица в толпе.

Еженедельно сообщается о новых открытиях: в январе выяснилось, что в DeepMind разработали алгоритм, обыгравший чемпиона Европы по го — древней китайской настольной игре, которая в несколько раз сложнее шахмат (алгоритм, получивший название AlphaGo, сразится с чемпионом мира в середине марта). Конечно, люди приложили руку к столь быстрой эволюции, но трудно не задуматься о том, что мы достигли переломного момента в развитии умных машин. Стоим ли мы на грани зарождения нового вида? Сколько времени пройдет, прежде чем машины станут умнее нас?


Основатель Tesla Илон Маск разводит руками. Фото: Тим Ру/Getty

Рэймонд Курцвейл, штатный футуролог Google, популяризировал идею «сингулярности», которая грубо описывается как момент, когда кремниевые машины становятся умнее углеродных (то есть людей) и баланс эволюции смещается в сторону первых. «В грядущие годы множество наших размышлений будет происходить в облаке», — заявил он на техконференции несколько лет назад. Он даже предсказал дату сингулярности — 2045 год. На недавней конференции Илон Маск, основатель Tesla и SpaceX, между делом сравнил разработки в области ИИ с «призыванием демонов». Хотя позднее он объяснил мне, что его комментарий был преувеличением.

Маск утверждает: «Возвышение умных машин вызывает серьезные вопросы о роли человека и о том, какое будущее мы создаем для себя, и на эти вопросы нужно ответить»

Как отмечает Илон, наша зависимость от машин является фактом:

«Мы уже киборги. Просто попробуйте выключить свой телефон ненадолго, и вы поймете, что такое фантомные боли»

Сверхразумным машинам не обязательно быть злыми, чтобы представлять угрозу.

«Настоящим риском работы с ИИ является не злой умысел, а компетентность. Сверхразумные ИИ будут очень хороши в достижении своих целей, и если их цели не совпадут с нашими, у нас возникнут проблемы. Вы вряд ли ярый ненавистник муравьев, который давит их из злобы, но если вы руководите гидроэлектрическим проектом добычи чистой энергии, и вам нужно затопить муравейник неподалеку, то это проблемы муравьев. Давайте не будем ставить человечество в положение таких вот муравьев», — заявил недавно физик Стивен Хокинг

Несмотря на развитие умных алгоритмов и появление более умелых роботов, будущее сверхразумных машин все еще ближе к научной фантастике, чем к самой науке. По словам Яна Лекуна, главы исследований ИИ Facebook, «ИИ сейчас не умнее крысы». Да, спустя годы программирования и миллионы долларов IBM построили Watson — машину, обыгравшую умнейших людей в Jeopardy! в 2011 году и ставшую основой для программы «когнитивных вычислений». Она может читать 800 миллионов страниц в секунду и сохранить всю Википедию, не говоря уже о статьях в выпускающихся десятилетиями журналах по праву и медицине. И все же она не может научить вас вождению мотоцикла, поскольку узколоба — машина понятия не имеет, как на самом деле работает мир. Одна из самых сложных ИИ-программ, Aristo из института искусственного интеллекта Аллена в Сиэтле, не может понять предложение типа «Люди дышат воздухом». Чтобы осознать его смысл, надо знать общие вещи о мире — этого знания у машины нет. Даже если б она сумела подобрать слова, программа не знает, является ли вдыхание воздуха залогом людской жизни: дышат ли они раз в минуту или раз в жизни. Впечатляющие успехи вроде Skype Translator (все еще на стадии превью), который позволяет пользователям вести разговоры на разных языках в реальном времени, также нуждаются в доработке. В одном из таких разговоров с жителем Италии мои замечания о погоде были переведены как замечания о Библии.


Чемпионы Jeopardy! Кен Дженнингс и Брэд Раттер беспомощно смотрят на то, как компьютер IBM Watson властвует на поле.
Фото: Сет Венинг/AP

Это не дает повода сказать, что риск восстания умных машин необоснован, или что Скайнет не появится однажды из каких-нибудь точек данных (элементарная единица в массиве каких-либо данных, например рост одного конкретного человека — прим. Newочём), которые мы и вообразить вряд ли сможем. Автономное оружие вроде беспилотников, которые могут самостоятельно убивать людей с помощью технологии распознавания лиц и других данных, является реальной угрозой. Но они не угрожают существованию человечества. И вряд ли какой-нибудь хакер из Северной Кореи внезапно создаст новый алгоритм, который позволит Ким Чен Ыну устроить атаку Терминаторов на мир. В данном контексте ИИ — это не айфон, где вы пишете новое приложение и больше ничего не делаете. Скорее, это создание Интернета как такового — процесс, который потребует очень много времени и множество последовательных шагов. Как мне недавно объяснил Эндрю Ын, руководитель исследований в китайском аналоге Google — Baidu,

«волноваться о роботах-убийцах — это как волноваться о перенаселении на Марсе; у нас полно времени на то, чтобы с этим разобраться»

Собственно, проблема с гиперболой о роботах-убийцах в том, что она маскирует реальные опасности, которые грозят нам с развитием умных машин — потери рабочих мест ввиду замещений рабочих роботами, распространение автономного оружия в боевых действиях и простой факт, что чем больше мы зависим от машин, тем опаснее становятся перебои, будь они вызваны техническими неполадками или китайским хакером.

Дело в отчуждении, которое возникнет из-за жизни в мире, где мы общаемся с машинами больше, чем с людьми, а искусство превращается в стройный алгоритмичный сигнал. Век ИИ также принесет с собой глубокие проблемы приватности, не только со шпионящими дронами над головой, но и с корпорациями, которые будут отслеживать каждый ваш шаг, чтобы всучить свой товар. Как выразился Марсело Ринези, технический директор в Институте этики и новых технологий,

«будущее не за роботами, втаптывающими человечество в грязь. Будущее за миром, где во всё вокруг вас встроен маленький специалист по продажам, который знает о вас всё и никогда не прекратит продавать вам всякий хлам»

Также гипербола отвлекает от пользы, которую может принести глубокий союз с машинами. Большинство ученых вроде Демиса Хассабиса из DeepMind верят, что если мы дадим машинам разум, они смогут помочь нам в решении как серьёзных проблем эпидемий и здравоохранения, так и научных вопросов глобального потепления и физики. Эрик Хорвитц из Microsoft считает работу над ИИ ещё более значимой:

«Вопрос для человечества в том, исчислим ли его опыт? И если так, что мы узнаем о себе как жителях планеты, изучая работу своего разума? И что мы можем сделать с этими знаниями о себе?»

Технологические революции внушают страх — иногда обоснованный, иногда нет. Во время промышленного переворота британские текстильщики ломали машины, боясь, что те отберут у них работу (что и случилось). В начале века электричества люди верили, что провода могут вызывать безумие (что оказалось неправдой). А в 50-ых годах изготовители техники ждали появления ядерных пылесосов.

ИИ долго страдал от страхов, которые намного опережали саму науку. В 1958 году, с появлением «перцептрона» — первой так называемой нейросети — одна газета предположила, что вскоре это приведет к появлению «мыслящих машин», которые смогут размножаться и быть разумными. В 1960-ых, когда Джон Маккарти, ученый, которому принадлежал термин «искусственный интеллект», предложил новый исследовательский проект чиновникам из Пентагона, он заверил их, что создание системы ИИ займет около десятилетия. Когда прогноз не оправдался, в сфере изучения ИИ начался упадок. Этот период 1970-1980-х годов известен как «закат ИИ».

Но закат кончился. Во-первых, продолжительный подъем в вычислительных способностях компьютеров наряду с падениями цен обеспечили мощность, в которой нуждались сложные ИИ-алгоритмы. Новый вид чипов, известный как графический процессор, — который изначально создавался для видеоигр — был особенно важен для работы нейросетей, между нейронами которых могут пролегать сотни миллионов узлов.

Во-вторых, появились большие массивы данных. Как и у людей, разум машин надо обучать. Мозг человека, который генетически настроен сортировать вещи, всё ещё нуждается в примерах из жизни, прежде чем он сможет различать кошек и собак. Это ещё более истинно для обучения машин. Для того, чтобы прорыв DeepMind с Го и играми от Atari стал реальностью, компьютеры нарабатывали опыт, играя в тысячи игр. Массивные базы данных, терабайты сохраненной информации, десятилетия результатов поиска и вся цифровая вселенная стали учителями, которые сейчас делают ИИ умными.


Исследователи из лаборатории обучения роботов в Беркли работают над созданием машин, которые могут учиться сами и однажды сумеют достичь полной разумности.
Фото: Спенсер Лоуелл

В прошлом попытки создания мыслящей машины были, по большей части, теоретическим упражнением для философов и программистов. «Сегодня отличие в том, что эти идеи работают. Facebook, IBM, Microsoft — все их используют. И они приносят деньги», — говорит Лекун. Сегодня лидерство за компанией с лучшими данными и алгоритмами обучения. Даже отличие в полпроцента переходов может принести огромное количество денег компании, чей доход достигает 50 миллиардов долларов в год. Распознавание изображений, которое зависит от машинного обучения, является отраслью суровой конкуренции между Apple, Microsoft, Google и облачными службами вроде Dropbox. Другой такой отраслью является улучшение распознавания речи. Компания, которая первой сможет добиться того, чтобы разговор с машиной был так же натурален, как и разговор с человеком, получит большое преимущество.«Голосовой интерфейс станет таким же важным и информативным, как использование касания в гаджетах» — уверен Ын из Baidu. Google и Apple скупают все стартапы, создатели которых обещают разработать более умные программы-помощники, а искусственный интеллект становится ключевым элементом в самоуправляемых автомобилях, которые будут иметь колоссальное значение в автомобильной индустрии и в перспективе полностью изменят картину и атмосферу городов — после того, как больше не будет надобности в площадях для парковки личных автомобилей.

«ИИ у всех на устах, — воодушевленно рассказывает Джейсон Калаканис, предприниматель из Сан-Франциско. — Вы только упоминаете „искуственный интеллект“ в своем бизнес-плане, и все уже следят за вами. Это просто хит сезона»

Такие скептические нотки вполне оправданы. ИИ может распознать кота на фотографии, или разбирать слова, пока вы говорите. Но восприятие и размышление — вещи разные. Зрение и мысль — не одно и то же. И развитие своих навыков игры в Го не сравнится с жизнью в реальном мире. Для того, чтобы искусственный интеллект считался разумным, а тем более опасным, сначала необходимо научить его рассуждать. Или хотя бы привить ему здравый смысл. А исследователям еще предстоит долгий путь до изобретения чего-либо, что хотя бы каким-то образом напомнит человеческое сознание или мышление.

«Мы преодолели одно препятствие, теперь мы знаем, как программировать зрительное восприятие, и это работает, — рассказывает Лекун, — Хорошая новость в том, что у нас много идей о том, как перейти к следующему шагу, и надеюсь, что эти идеи сработают. Но это как ехать по шоссе со скоростью 80 км/час в полном тумане и знать, что где-то там есть кирпичная стена, которую мы не видим. Поэтому сейчас мы просто рады ехать, пока не кончится бензин».

Макс Тегмарк, 48-летний физик из Массачусетского Технологического Института, пострижен «под горшок» и обладает мальчишеским пылом, благодаря чему он выглядит моложе своих лет. Гостиная в его двухэтажном пригородном доме недалеко от Бостона обставлена скудно, на стенах — картины уток и лесных сурков. Тегмарк занимается физикой и космологией, поэтому у него тоже есть свои странности. Больше всего он известен своим исследованием идеи о параллельных вселенных, которая заключается в том, что вселенных может быть великое множество, и не все они подчиняются привычным законам физики. Он признает, что такая гипотеза находится на грани традиционной науки. Но Тегмарк (который на своем сайте оценивает все грандиозные промахи в своей жизни по шкале от 0 до 20) принимает эту идею с головокружительным энтузиазмом. За последние несколько лет он стал одним из самых заметных голосов, предупреждавших об опасности ИИ, вышедших из-под контроля.

Как-то этим летом мы сидели в столовой Тегмарка, обсуждая риски, связанные с развитием ИИ, а также работой ученого в основанном им институте Future of Life, охарактеризованном им как «волонтерская исследовательская организация, работающая над смягчением стоящих перед человечеством экзистенциальных рисков». И хотя в состав института входят такие светила, как Стивен Хокинг, в целом это довольно узкая группа друзей и коллег Тегмарка, которые встречаются в его гостиной раз в несколько месяцев. Институт, функционирующий на средства фонда Open Philanthropy Project и подаренные Маском $10 млн, финансирует исследования, целью которых является максимальное развитие ИИ и объяснение людям рисков высоких технологий. Спустя несколько дней после того обеда Институт опубликовал открытое письмо, которое потом выпустили издания The New York Times и The Washington Post, предупреждающее об опасностях автономного оружия. «Как только какая-нибудь военная держава начнет проталкивать производство оружия с искусственным интеллектом, мировая гонка вооружений станет неизбежной. Автономное оружие станет Калашниковым завтрашнего дня», — утверждается в письме. Под обращением подписалось более 20 000 человек, включая таких ученых и предпринимателей, как Хокинг, Маск, сооснователь Apple Стив Возняк и нобелевский лауреат Фрэнк Уилчек.


Макс Тегмарк, профессор физики в Массачусеттском Технологическом Институте, и член института Илона Маска Future of Life, который финансирует исследования, делающие ИИ безопаснее. Фото: Джош Рейнольдс/Getty

В январе 2015 года, Тегмарк организовал первую крупную конференцию по рискам, связанным с ИИ. (Стоит заметить, что Тегмарк является физиком, а не информатиком. На самом деле, тревогу бьют в основном предприниматели, философы, писатели-фантасты, и ученые, не работающие над искусственным интеллектом.) Трехдневное мероприятие в Пуэрто-Рико собрало множество исследователей и ученых, а также предпринимателей вроде Маска. Обсуждение было проведено по модели Конференции по Рекомбинантной ДНК в Асиломаре в 1975 году, которая запомнилась как эталон дискуссии касательно опасности синтетической биологии и клонирования. По словам некоторых участников конференции, одной из главных тем, обсуждавшихся в Пуэрто-Рико, был вопрос о том, сколько времени пройдет, прежде чем ИИ достигнет уровня человеческого интеллекта или даже превзойдет его. На одной стороне спора первопроходцы в сфере ИИ вроде Эндрю Ына утверждали, что до этого момента еще сотни лет; другие, как Маск и Стюарт Рассел, профессор информатики в Калифорнийском Университете Беркли, заявляют, что это может произойти намного раньше. «Средним значением этих предположений в Пуэрто-Рико стало около 40 лет», — заключает Тегмарк.

Как и Хокинг, Тегмарк не верит, что сверхразумные машины обязательно должны быть опасными. «Мы хотим создавать компьютеры, которые не просто будут иметь какие-то цели, а именно совпадающие с нашими, — поясняет он. — Если у вас есть самоуправляемый автомобиль с распознаванием речи, и вы говорите ему: „Отвези меня в аэропорт как можно скорее“, конечно он довезет, но в поездке вас будут преследовать вертолеты, а сами вы будете покрыты рвотой. Потом вы скажете: „Я так вообще не хотел“. А автомобиль ответит: „Ты сам попросил меня сделать это“».

Тегмарк верит, что о таких вещах важно думать сейчас, отчасти потому, что неясно, как быстро будет развиваться ИИ. Может, пройдет 100 лет, прежде чем он будет обладать хоть какими-то свойствами человеческого разума. А может, всего 10 лет. Тегмарк приводит пример с исследованием атома. «Задумайтесь о том, что случилось с атомной бомбой. Когда ученые принялись работать над ней, если бы они могли знать наперед, что она будет означать для всего мира, и приняли бы меры предосторожности — разве сегодняшний мир не был бы лучше? А может, это вообще ничего бы не изменило?».

Куда бы вы ни пошли, будьте готовы к тому, что на вас нацелена камера. Они расположены на улицах, на дронах и в большинстве из примерно четырех миллиардов телефонов на планете. В 2012 году ФБР запустила систему идентификации нового поколения , которая стоила один миллиард долларов и с помощью алгоритмов собирала изображения лиц, отпечатков пальцев и других биометрических данных миллионов американцев, делая их доступными 18 000 органам правопорядка.

Ничего из этого не было бы возможно — или хотя бы эффективно — без работы Лекуна. В мире ИИ Лекун ближе всех к статусу рок-звезды, будучи одним из трех первых разработчиков ИИ, которые создали алгоритмы для распознавания изображений. Лекун никогда не работал на органы правопорядка и предан идее гражданских прав, но это не имеет значения — после появления на свет технология начинает жить своей жизнью.

В наши дни Лекуна можно найти в офисе Facebook в пригороде Манхэттена. В помещении, размером с баскетбольную площадку, ровные ряды людей таращатся в мониторы под фракталами на стенах. ИИ-лаборатория Лекуна расположена в углу, её двадцать с лишним сотрудников неотличимы от прочих трудяг Facebook. (На его лабораторию работает ещё двадцать пять человек в офисах Кремниевой долины и Парижа) Лекун сидит за длинным рядом столов, плечом к плечу с командой. Выглянув в окно, он может краем глаза увидеть здание, где хранится IBM Watson.

В джинсах и рубашке поло, Лекун показывает мне лабораторию со спокойным, «профессорским» выражением на лице. Он вырос в пригороде Парижа, но его акцент едва ощутим. «Я сочетаю в себе всё, что презирают религиозные правые — ученый и атлет, человек левых взглядов (по американским стандартам), профессор в университете и француз», — бахвалится он на своем сайте. Он воспитывает троих детей и возится с моделями самолетов по выходным.

Лекун был первооткрывателем в глубинном обучении — подвиде машинного обучения, который совершил революцию в области ИИ. Работая над получением степени бакалавра в 1980, он прочитал о «персептроне» 1958-го и предсказании алгоритмов нейросети, которые позволят машинам «воспринимать» такие вещи, как изображения и слова. Сети, которые имитируют структуру нейронных проводящих путей нашего мозга — это алгоритмы, использующие сеть нейронов или «узлов», для взвешенного статистического анализа вводных параметров (которые могут быть чем угодно — числами, звуками, изображениями). Увидев потенциал сетей, Лекун посвятил свою диссертацию обучению нейросетей автоматической настройке на более точное распознавание последовательностей — создавая в конце концов алгоритмы, которые сейчас позволяют кассовым аппаратам считывать чеки. В последующие годы усовершенствование нейросетей другими программистами было технологическим фундаментом для практически каждого этапа развития «умных машин», от машинного распознавания образов в беспилотных автомобилях до распознавания речи в Google Voice. Лекун будто создал нервную систему для искусственной жизни.

Несмотря на название, Лекун считает, что нейросети не являются попыткой подражать мозгу.

«Это не самое новое, не самое великое и не самое свежее открытие в нейробиологии. Это очень базовая вещь. Если вы строите самолеты, вас могут вдохновить птицы, потому что они умеют летать. Даже если вы мало что знаете о птицах, вы можете понять, что у них есть крылья и они двигаются в воздухе. Но строить самолет — не то же самое, что строить птицу. Вам придется отказаться от генетических принципов — но вы не можете отказаться от генетических принципов, изучая детали работы биологии»

По мнению Лекуна, это недостаток большинства нынешних исследований мозга, включая расхваленный в Европе проект «Мозг человека», десятилетнюю затею стоимостью в 1.3 миллиарда долларов, которая должна раскрыть тайны мозга, симулируя работу 86 миллиардов нейронов и 100 триллионов синапсов на суперкомпьютере. «Идея в том, что если вы изучите каждую деталь работы нейронов с синапсами и как-то повторите процесс на достаточно больших сетях, у вас получится ИИ. Я считаю, что это полное безумие», — рассказывает он.

После работы в лабораториях Bell, Нью-Джерси, Лекун десять лет проработал преподавателем в университете Нью-Йорка. В 2013 Марк Цукенберг заманил его в Facebook, отчасти благодаря тому, что Лекун смог остаться на полставки в университете. «Марк сказал мне — “Facebook работает уже десять лет, нам нужно думать о следующих двадцати: Как будет выглядеть связь между людьми и цифровым миром?” Он был убежден, что ИИ сыграет в этом большую роль и что будет очень важно иметь возможность организации взаимодействий между людьми и цифровым миром с помощью разумных систем. И когда кто-то говорит тебе “Создай исследовательскую организацию с нуля”, отказаться трудно», — вспоминает Лекун.

Ян Лекун — первопроходец в работе с ИИ в Facebook.
Фото: Деннис аллард/REA/Redux

Лекун не скажет, насколько много средств Facebook инвестировал в лабораторию ИИ, но она признана одной из самых амбициозных в Кремниевой долине. «Бóльшая часть наших исследований искусственного интеллекта сфокусирована на понимании того, чем люди делятся, — написал Цукерберг во время сессии в формате «вопрос-ответ» на вебсайте. — Например, когда вы выкладываете фотографию, на которой запечатлен ваш друг, мы должны убедиться, что ваш друг ее увидит. Если вы выкладываете фото собаки или пишете пост о политике, мы должны это понимать, чтобы показать эти посты и помочь вам познакомиться с людьми, которые тоже любят собак или политику. Чтобы это все работало действительно качественно, нашей целью является построить системы ИИ, которые превосходят человеческие органы чувств: зрение, слух, и так далее». В январе Цукерберг заявил, что его личная задача на 2016 год — разработать простой ИИ, который будет управлять его домом и поможет ему в работе: «Это будет что-то вроде Джарвиса из Железного Человека».

Лекун утверждает, что один из лучших примеров работы ИИ в Facebook это новое приложение Moments, которое определяет ваших друзей через распознавание лиц и позволяет отправлять им фотографии. Но менее развитые системы ИИ встроены во все сферы компании: начиная с анализа изображений, заканчивая тем, что ИИ отслеживает, какие страницы вы обычно просматриваете, чтобы определить, статусы каких друзей показывать вам в первую очередь. Также ИИ используется для управления безумным количеством данных, с которыми работает Facebook. Пользователи загружают по два миллиарда фотографий и просматривают по восемь миллиардов видео каждый день. Компания использует метод преобразования с помощью ИИ, чтобы разбить файлы по видам и сделать их «легче». Выигрыш не кардинален, но он приводит к большей эффективности и сохранить значительные объемы памяти.

Несмотря на все успехи, Лекун понимает, что это лишь крохотные шаги на пути к общему интеллекту. Даже с распознаванием изображений, которое в последнее время значительно улучшилось, существуют некоторые проблемы: ИИ-программы вводят в заблуждение тени, отражения и различия в пикселизации. Но самым большим препятствием является то, что называется «неконтролируемым обучением». В данный момент машины в основном совершенствуются посредством «контролируемого обучения», когда системе показывают тысячи картинок, например, котика, пока она не поймет все атрибуты кошек. Другой, менее распространенный метод — это укрепляющее обучение, когда компьютеру дают информацию для идентификации, он принимает решение, и затем ему говорят, прав он или нет. Неконтролируемое обучение не требует ответной реакции или вводных данных, основываясь на чем-то вроде искусственной интуиции. «Так учатся люди. Мы наблюдаем, делаем выводы и добавляем их к своим знаниям. Всё это один большой орешек, который нам надо расколоть», — утверждает Лекун.

В воздухе витает идея того, что бесконтрольное обучение должно быть основано на предсказании. «Если я покажу тебе короткое видео и затем спрошу, что произойдет в следующую секунду, ты, скорее всего, догадаешься», — говорит Лекун. Объект, плавающий в воздухе обязательно упадет — тебе не нужно много знать о мире, чтобы предсказать это. «Но если мы говорим о детективной истории, и я спрошу тебя, кто убийца, а затем попрошу сказать, чем закончится фильм, тебе потребуется достаточно много информации о том, что происходит в фильме, — считает Лекун. — Предсказание есть суть интеллекта. Как вообще мы можем построить машину, которая, посмотрев фильм, сможет описать, каким будет следующий кадр, не говоря уже о том, чтобы сказать, что случится через полчаса, где будут находиться объекты, сам факт того, что эти объекты существуют, и что мир трехмерен — все, что мы знаем о физических ограничениях мира?»

Одно из решений, над которым работает Лекун, состоит в том, чтобы представлять все содержимое Facebook в виде вектора, что позволит компьютерам задавать точку координат в пространстве. «Среднестатистические векторы, которыми мы пользуемся для передачи таких идей, как „изображение“, имеют размер около четырех тысяч величин. По сути, это лист с четырьмя тысячами чисел, в которых заключены все характеристики изображения», — объясняет Лекун. Векторы могут представлять изображение, текст или список человеческих интересов. Компьютерам легко искать и сравнивать их, поскольку векторы сжаты до числа. Если человеческий интерес представлен вектором, который соответствует вектору изображения, то, скорее всего, человеку понравится это изображение. «В сущности, это сводит логический ход мысли к геометрии», — считает Лекун.

Что касается связанных с ИИ опасностей, Лекун считает их «очень далекими от реальности». Он находит ошибочным мнение о том, что машины смогут развиться и начать показывать признаки человеческого интеллекта или человеческих эмоций:

«Большая часть плохих вещей происходит из-за того, что человеческим поведением заведуют инстинкты — желание жить, размножаться и избегать боли. Нет причин думать, что роботы обзаведутся тем же инстинктом самосохранения, что есть у человека, если только мы сами его в них не встроим. Но они смогут обладать эмпатией, ведь мы заложим ее в них, чтобы они смогли общаться с людьми должным образом. Вопрос в том, какие именно низкоуровневые механизмы и стереотипы поведения следует заложить в машины, чтобы они стали продолжением нашего интеллекта, нежели его заменой»

На пути из офиса Facebook меня поразило, как плотно заполнен офис — это империя людей и машин, работающих вместе. Сложно представить, что будущее будет каким-либо другим, независимо от того, насколько продвинутыми станут наши роботы. «Алгоритмы создаются людьми, и они отображают склонности своих создателей», — считает Джарон Ланир, известный писатель и ученый в области компьютерных наук. Как бы то ни было, будущее будет таким, каким его придумаем мы сами. Перефразируя известное изречение о трех китах и устройстве вселенной: мир стоит на людях.

Вторая часть статьи здесь.

Автор: Джефф Годелл.
Оригинал: Rolling Stone.

Перевели: Георгий Лешкашели, Юрий Гаевский, Полина Пилюгина и Даша Шевцова.
Редактировали: Евгений Урываев, Поликарп Никифоров, Анна Небольсина и Дмитрий Грушин.