Разумные машины: от виртуального собеседника к предсказанию будущего
Почему реальный ИИ глупее научно-фантастического и возможен ли общий искусственный интеллект
— Если бы был создан робот, способный стать общественным деятелем, он был бы самым лучшим из них. По законам Роботехники, он не мог бы причинять людям зла, был бы чужд тирании, подкупа, глупости или предрассудков. И прослужив некоторое время, он ушел бы в отставку, хотя он и бессмертен, — ведь для него было бы невозможно огорчить людей, дав им понять, что ими управляет робот. Это было бы почти идеально.
«Я, робот», Айзек Азимов
О чем эта цитата?
Разумные машины — это научно-фантастический концепт, вызывающий у людей самые разные чувства. Для кого-то они выступают воодушевляющим символом прекрасного будущего, возможного благодаря техническому прогрессу. Подобные образы воплощены в литературе и кино в виде андроидов, сосуществующих с людьми и помогающих им. Примерами могут служить Электроник из советского телефильма Константина Бромберга, робот Вертер из повести Кира Булычева «Сто лет тому вперед» и Дейта из сериала «Звездный путь».
Не менее часто в разумных машинах видят потенциальную угрозу человечеству. К примеру, компьютер может неожиданно обрести самосознание и прийти к выводу, что люди представляют для него угрозу или же мешают эффективному достижению целей. Такие сценарии реализуются в классическом «Терминаторе» Джеймса Кэмерона или в «Космической одиссее» Артура Кларка.
Свой образ в медиа есть и у некого среднего варианта развития событий. Разумные машины обретают интеллект в ситуации, когда большинство людей не признают за ними равных статуса и правовых возможностей. Это приводит к конфликту между андроидами и людьми, который ставит этические вопросы о взаимоотношении двух видов разумных существ. Так события разворачиваются в сериале «Мир Дикого Запада» и компьютерной игре «Detroit: Become Human».
Все описанные сценарии опираются на одну и ту же предпосылку: развитие компьютерных технологий рано или поздно приведет к тому, что роботы, компьютеры и другие технические устройства смогут действовать самостоятельно и будут обладать очень развитым интеллектом, сопоставимым с человеческим. Однако насколько технически осуществима эта задача?
Научная база
Поиском ответа на этот вопрос занимается машинное обучение — дисциплина внутри компьютерных наук. Основная ее задача — поиск и разработка методов, позволяющих создавать устройства и программы, способные к обучению, целенаправленному и рациональному поведению. На бытовом языке это искусственный интеллект. Им часто называют различные программы, призванные решать конкретные прикладные задачи. В рамках этой статьи мы все же будем разграничивать эти понятия: машинное обучение — это наука, а ее продукт — компьютерные программы, алгоритмы, специализированные компьютеры и другие интеллектуальные системы в самом широком смысле. Гипотетические же системы, способные к целеполаганию и обладающие интеллектом, сопоставимым с человеческим, мы будем называть общим ИИ.
Цель специалистов в области машинного обучения — создание программ и алгоритмов, взаимодействующих с окружающей средой и направленных на достижение определенных целей. Создание общего ИИ — это лишь одна из целей, которые преследуют специалисты по машинному обучению.
Сегодня эти программы и алгоритмы совсем не похожи на андроидов и компьютеры из научной фантастики. В чем же различие между ними?
Дело в том, что возможности современных «разумных машин» гораздо слабее, чем представляли фантасты. Иногда в научно-популярной среде их называют «слабым искусственным интеллектом», однако по факту это обычные программы, способные на частичную автоматизацию своих действий. Научно-фантастические разумные машины же — это примеры интеллектуальных систем, которых отличают две ключевые особенности:
1) Способность самостоятельно ставить перед собой цели;
2) Способность подстраиваться под выполнение задач, о которых им ничего не известно заранее, то есть способность к обучению.
Задачи, с которыми работают современные алгоритмы, не являются универсальными: они совершенно не приспособлены к какой-то деятельности за пределами фокуса, заданного их создателями. Задача же современных исследователей состоит в том, чтобы создать подобный человеческому интеллект, способный самостоятельно выбирать, что он должен делать и зачем.
В 1956 году в Дартмутском колледже прошел [1] двухмесячный семинар, посвященный проблемам искусственного интеллекта. Именно от него отсчитывается начало «золотой эры искусственного интеллекта». Бурное развитие компьютерных технологий подстегивало оптимизм ученых. Все передовые специалисты в этой области были уверены, что за 20 лет удастся создать общий искусственный интеллект. Оптимизм, однако, не оправдал себя: недостатки вычислительных мощностей компьютеров и множество других факторов не позволили этого сделать. Наступила «зима» в исследованиях искусственного интеллекта.
С тех пор разработка искусственного интеллекта не раз переживала подобные всплески активности и периоды затишья, но с тех пор ученые научились ставить перед собой менее амбициозные задачи. Первые попытки создания общего ИИ показали сложность решения такой комплексной задачи, и даже реализация каких-то отдельных проблем его элементов вызывала большие затруднения. Из-за этого сегодня задача создания общего ИИ распалась на множество небольших подзадач, каждая из которых требует очень больших усилий.
Такое разделение привело к тому, что специалисты в области искусственного интеллекта по-разному видят свои цели. Существуют «практики», которые полностью погружены в поиск решения узких специальных проблем, и «теоретики», цель которых — разработка концепций и моделей, приближающих возникновение общего ИИ. Между двумя этими направлениями зачастую возникает недопонимание. Концептуалисты в ответ на демонстрацию новых успешных алгоритмов по решению частных задач разочарованно говорят: «Это дает нам очень мало для решения проблемы общего ИИ». Практики же при виде очередной впечатляющей архитектуры ИИ недоуменно спрашивают: «И как же она применима на практике?», получая в ответ только замечания о ее сложности.
Тем не менее в последние десятилетия произошел существенный прогресс в области искусственного интеллекта. Это связано с развитием искусственных нейронных сетей — алгоритмов, работающих по принципу выполнения сложных операций путем их децентрализованного выполнения сразу множеством структурных элементов, отвечающих за разные небольшие задачи. Идея нейронных сетей возникла благодаря изучению биологических нейронов, однако их работа устроена совершенно по-другому, сходство здесь исключительно в названии. Впервые нейронные сети появились еще в середине XX века, однако только сравнительно недавно эта технология развилась до эффективного практического применения. Это произошло благодаря тому, что человечество смогло накопить очень большой массив разнообразных данных и научилось с ними эффективно работать. Суть работы нейронных сетей заключается в том, что они способны самостоятельно определять некоторые статистически значимые признаки в больших массивах данных. Они способны обучаться, постепенно подстраивая коэффициенты в заложенных в них функциях, раз за разом становясь все точнее. Нейронные сети универсальны и помогают как распознавать котиков на фотографиях, так и предсказывать тренды на финансовых рынках. Основная проблема нейронных сетей как метода состоит в том, что их крайне сложно интерпретировать: программы сами выявляют некоторые признаки и присваивают им числовые коэффициенты, и причины того или иного выбора совершенно непонятны для людей. Тем не менее сегодня значительная часть прикладных успехов по решению частных задач в области искусственного интеллекта связана именно с применением нейронных сетей.
Эксперименты
Первыми стали программы для понимания естественного языка и общения. Они появились еще в 1960–1970-х годах. Конечно, беседа с ними была не слишком разнообразной, а темы общения были очень ограниченными, даже специфическими. К примеру, виртуальный собеседник Элиза [2] имитировал речь психотерапевта, отталкиваясь от фраз собеседника. На фразу «Меня ненавидит мой отец» Элиза могла ответить: «Кто-то еще из вашей семьи вас ненавидит?» Если же она не могла ответить, то просто говорила: «Понятно» — и меняла тему разговора. Другой интересный пример — программа SHRDLU [3]. Она могла после ввода соответствующих команд перемещать в виртуальном пространстве различные геометрические фигуры: кубы, шары, конусы. При этом SHRDLU могла запоминать все сделанные до этого перемещения и отличать созданные ею объекты из нескольких деталей по предложенным человеком названиям.
Достаточно быстро искусственный интеллект перешел от слов к действию. С 1985 по 1997 год велась разработка серии компьютеров для игры в шахматы. В 1995 году вышла первая версия компьютера Deep Blue, которая в феврале 1996 года проиграла матч чемпиону мира того времени Гарри Каспарову. Однако уже через год разработчики создали улучшенную версию суперкомпьютера, которая смогла обыграть [4] Каспарова в серии из нескольких партий.
Новое достижение на поприще предназначенных для игры алгоритмов произошло в 2016 году, когда программа AlphaGo [5], разработанная Google DeepMind, смогла выиграть [6] у профессионала высшего 9-го дана, победителя в командной дисциплине на Азиатских играх 2010 года Ли Седоля. Эта победа имела большое значение, поскольку долгое время другие интеллектуальные системы по игре в го побеждали спортсменов такого высокого уровня только с форой. Кроме того, AlphaGo — это программа, обладающая исключительной способностью к обучению, превосходящей возможности ее предшественников.
Подавляющее большинство исследований сегодня сосредоточено на улучшении отдельных функций человеческого мышления и поведения. Наиболее яркий и известный пример — это роботы компании Boston Dynamics. Мало у кого эти механизмы ассоциируются с достижениями в области искусственного интеллекта. Однако манипулирование объектами, ориентирование на местности, высокая мобильность и ловкость — это такие же важные составные части человеческих способностей в широком смысле. И если раньше подобные роботы забавляли своей неуклюжестью, то теперь трюки, выполняемые [7] Atlas, Cheetah и Spo, вызывают восхищение и некоторый испуг от возможностей роботов.
Другая область, в которой исследователям искусственного интеллекта удалось добиться очень больших успехов, — генерирование контента с помощью автоматизированных алгоритмов. Самый релевантный пример — сервис «Балабоба» от Яндекса, способный продолжать тексты, написанные пользователями. Первые несколько слов вводит человек, а затем языковая модель достраивает их с помощью имеющейся базы данных, собранных по индексированным Яндексом сайтам.
В 2017 году художница Елена Никоноле провела серию акций, во время которых она подключалась к незащищенным видеокамерам, звуковым установкам и принтерам и распространяла через них «священные» тексты, сгенерированные алгоритмом, обученным на религиозных источниках. Проект получил название «deus X mchn», его целью было провести аналогию между надчеловеческими высшими силами, следящими за людьми повсюду, с современными техническими средствами, также являющимися своего рода вечным наблюдателем за нами.
Продукты исследователей искусственного интеллекта часто пробовали себя в поэзии. Одним из первых известных проектов стал «Автопоэт» Яндекса, который составлял стихотворения из поисковых запросов пользователей. В 2016 году исследователи из Facebook AI Research создали две модели написания стихотворений: первая умела работать исключительно с работами одного стиля, а другая обучалась на более разнообразной выборке стихотворений. В 2018 году российские филологи Борис Орехов и Павел Успенский обучили нейросеть на базе данных из стихотворений русских авангардистов 1920-х годов, а затем предложили другим филологам проанализировать получившиеся работы. Их вердикт был в том, что по отдельным строчкам невозможно определить происхождение стиха, многие из них получились достаточно искусными.
Программы пробуют себя и в живописи. В 2017 году Лабораторией искусственного интеллекта и искусства была создана Creative adversarial network [8], способная рисовать картины с целью вызвать эмоциональный отклик у зрителей. А в 2018 году на аукционе впервые была продана картина, нарисованная предшественником CAN — Generative adversarial network. Цена работы составила 432 тысячи долларов.
Впечатляющее развитие сегодня получает система ИИ Watson [9], разрабатываемая IBM с 2006 года. Ее изначальное предназначение — ответы на вопросы, заданные с помощью естественного языка. Watson делает это с помощью алгоритмов распознавания речи и обширной энциклопедической базы данных. В 2011 году ей удалось обыграть двух соперников высокого класса в Jeopardy! — игру-прообраз отечественной «Своей игры». Сейчас функционал Watson значительно расширился, и теперь система часто используется для прикладных задач в сферах здравоохранения, рекламы, образования, кулинарии и других. В июне 2018 года на базе Watson стартовал Project Debater, его конечная цель — научить ИИ на равных соревноваться с человеком в спортивных дебатах.
Суперкомпьютер IBM Watson 2011 года // wikimedia.org
Существуют и более амбициозные проекты, которые нацелены на имитацию деятельности людей и других живых организмов. Прославившаяся в СМИ разработка — робот София [10], созданная гонконгской компанией Hanson Robotics. Ее разработчики заложили в нее возможность видеть окружающий мир, следить за мимикой людей, поддерживать зрительный контакт, имитировать более 60 выражений лица, а с января 2018 года она также умеет ходить. Тем не менее главная функция Софии — это общение с людьми. Однако именно в этой области ее возможности достаточно ограничены: технологически заложенные в Софию алгоритмы восходят к описанной выше Элизе, и поэтому она умеет поддерживать очень упрощенное общение. Тем не менее это не помешало ей выступить на мероприятиях ООН, побывать гостем на многочисленных ток-шоу и стать первым роботом, получившим гражданство: в 2017 году София стала гражданкой Саудовской Аравии. Главная ее ценность для науки — интеграция зрительных, коммуникативных и двигательных механизмов в единую систему.
Робот София // wikimedia.org
Полная имитация работы организма — это очень сложная задача, и решать ее нужно с чего-то простого. Именно с этой целью возник проект OpenWorm [11], в рамках которого исследователи стараются создать точную искусственную копию червя Caenorhabditis elegans — одного из простейших живых организмов, способного за счет своей простоты выживать даже после полной заморозки. На сегодняшний день проект находится на стадии активной разработки: создана доступная каждому копия червя, позволяющая запускать симуляцию у себя на компьютере, а также увеличенная копия червя на колесиках. Более сложными разработками ученые также стараются заниматься, и самым примечательным по масштабу стал Human Brain Project [12], цель которого — создание полноценной модели человеческого мозга. Однако разработки проходят с большим трудом. Основателем проекта был Генри Макрам, которого значительная часть научного сообщества европейских стран обвинили в нерациональной трате средств, выделенных под проект. Также вскрылось, что принадлежащее ему научное издательство Frontiers Media публикует работы низкого качества. Отчеты по предыдущему проекту, Blue Brain Project [13], посвященному моделированию мозга грызунов, оказались неудовлетворительными для многих представителей научного сообщества: за долгие годы исследований удалось воссоздать только 0,15% от крысиного мозга. В результате Макрам был отстранен от Human Brain Project, и судьба проекта под вопросом.
Одной из крупнейших на сегодняшний день разработок, занятой исключительно созданием общего ИИ, является GoodAI Research. Входящие в нее ученые не ставят перед собой слишком глобальных задач и сейчас в первую очередь сосредоточены на разработке алгоритмов, способных обучаться новому в процессе работы и генерализировать полученные сведения, учиться применять их на наиболее широком спектре задач. Наиболее актуальной разработкой команды является архитектура Badger, которая, будучи реализованной, сможет обеспечить долгосрочное обучение интеллектуальной системы, направленное на постоянное переосмысление полученных в прошлом навыков для последующего использования и развития новых.
Удешевление компьютеров и увеличение их мощности, совпавшее с развитием необходимых технологий, привели к тому, что системы искусственного интеллекта начали постепенно входить в повседневную жизнь людей. Простые виртуальные собеседники превратились в голосовых ассистентов на смартфонах и продвинутые чаты и боты в социальных сетях, а машины научились не только играть, но и распознавать изображения, управлять автомобилями, предсказывать динамику валют и ценных бумаг — список огромен.
Каких открытий не хватает, чтобы это стало реальностью?
Несмотря на активность исследователей, на сегодняшний день не было создано ни одной интеллектуальной системы, которая могла бы претендовать на статус общего ИИ. Из-за этого возникает вопрос: насколько эта цель является в принципе реализуемой?
Ключевая проблема в сфере искусственного интеллекта, которая на сегодняшний день не имеет решения, — это поиск общего для нескольких задач алгоритма принятия решений. Как было продемонстрировано выше, современные продукты искусственного интеллекта уже могут очень хорошо справляться с отдельными задачами. Какая-то система отлично играет в го, другая предсказывает стоимость ценных бумаг, а третья неплохо имитирует и понимает речь. Технически ничто не мешает запустить все три эти системы на одном компьютере, однако это не приблизит к решению проблемы общего ИИ. Каждая из систем продолжит оставаться частной, в то время как цель исследователей искусственного интеллекта — эразработать единый алгоритм, который будет способен и сыграть в го, и предсказать стоимость ценных бумаг, и поговорить с вами. К сожалению, на данный момент такая реализация ИИ еще далека от осуществления.
Другая проблема — критерии разумности машины: даже если она научится выполнять сразу несколько задач разного характера, все равно можно будет возразить против наличия у нее сознания и разумности. Именно на это указывают аргументы, подобные «китайской комнате» Джона Сёрла: любая машина в ходе своей работы всего лишь выполняет некоторые действия в соответствии с заложенной в нее инструкцией, однако от этого у нее не может возникнуть способность понять и осознать, что она делает.
Однако другие теоретики предлагают опустить бессмысленный спор о сознании и абстрактной разумности ИИ, предлагая взамен смотреть на то, как интеллектуальные системы взаимодействуют со средой. Пример такого поведенческого критерия — тест Тьюринга, проверяющий ИИ на способность к языковой коммуникации. Если машина демонстрирует неотличимую от человека способность общаться и поддерживать разговор и в ходе реального эксперимента люди не смогут отличать ее от собеседников-людей, то такая машина успешно проходит тест.
Тем не менее на данный момент ни один ИИ не смог пройти полный тест Тьюринга: недостает или широкого кругозора, или высоких коммуникативных навыков. Бывали лишь случаи прохождения частных или ослабленных тестов Тьюринга, когда разговор касался ограниченного набора. Но в то же время младенец или наша кошка также не смогут его пройти, но при этом мало кто согласится с тем, что они не обладают сознанием и достаточно развитым интеллектом. Поэтому сторонники поведенческого критерия общего ИИ могут указать на то, что по мере увеличения мощностей интеллектуальных систем мы не заметим, как окажемся в мире, где существуют разумные машины.
Стоит задуматься
Независимо от того, удастся ли создать общий ИИ, перед людьми встанет проблема обучения автономных машин этическим принципам. Она уже существует, и возникновение сильного ИИ только усугубит ее.
Об этой проблеме заговорили еще на заре развития ИИ, когда Айзек Азимов сформулировал знаменитые законы робототехники, следуя которым робот должен всячески избегать нанесения вреда человеку и повиноваться его приказам. Однако они носят лишь формальный характер, поскольку не уточняют, действия какого характера можно считать вредом. К примеру, в эпоху социальных сетей остро встала проблема обращения с данными пользователей. И нередка ситуация, когда для улучшения алгоритмов по персонализации контента пользователя выгодно использовать данные, которые часть людей могли бы посчитать приватными. Как правильно провести границу в этой ситуации?
Очень активные обсуждения сегодня ведутся в контексте настройки поведения самоуправляемых автомобилей. Чью безопасность они должны ставить в приоритет в случае угрозы аварии: водителя или его пассажиров? А если у автомобиля откажет тормозная система, должен ли бортовой компьютер в первую очередь стараться не навредить пешеходам или спасать пассажиров транспорта?
С возникновением общего ИИ неизбежно встанет проблема его отношения к человечеству. С одной стороны, андроиды и разумные компьютеры будущего могут посчитать, что существование людей или устройство общества могут препятствовать осуществлению их задач, из-за чего решат этот конфликт ролей не в пользу человечества. С другой — есть риск того, что разумные машины не будут видеть в людях существ одного морального статуса с собой, из-за чего нормы морали для них будут работать только по отношению друг к другу, но не к людям.
Автор: КОНСТАНТИН ЯКОВЛЕВ
Кандидат физико-математических наук, ведущий научный сотрудник ФИЦ ИУ РАН, доцент факультета компьютерных наук НИУ ВШЭ, старший научный сотрудник МФТИ
Источник: m.vk.com
