Искусственный интеллект и его истинная природа
Практически весь 2024 год прошел в дискуссиях, может ли нести какую-либо угрозу человечеству столь стремительное развитие искусственного интеллекта. Точный ответ на этот вопрос не дают ни ученые, ни разработчики.
Наш собеседник — доктор физико-математических наук, профессор РАН, заведующий кафедрой машинного обучения и цифровой гуманитаристики МФТИ, заведующий кафедрой математических методов прогнозирования ВМК МГУ, заведующий лабораторией машинного обучения и семантического анализа Института искусственного интеллекта МГУ Константин Воронцов – однозначно имеет свою точку зрения относительно будущего технологии ИИ.
Константин Вячеславович, в своих лекциях и интервью, вы говорите, что ИИ — не интеллект, а его имитация. Что вкладывается в понятия интеллекта и в чем имитация не дотягивает, насколько велики различия?
Искусственный интеллект — это не объект и не субъект, а название множества технологий, придуманное Джоном Маккарти перед знаменитым дартмутским семинаром 1956 года.
Тогда оно обозначало мечту ученых об отдаленном будущем, в котором компьютерные программы будут решать сложные интеллектуальные задачи, до сих пор посильные только людям. Замечу: не что-то конкретное уже сконструированное, а нечто абстрактное, про что даже не ясно, может ли оно быть создано в будущем.
Прошло почти 70 лет, но ИИ принципиально остается тем же самым — общим названием множества разрозненных технологий и мечтой ученых об умных программах. Хотя, надо отдать должное, эта мечта стала принимать все более реальные очертания именно в последние годы, причем ускоренными темпами.
То есть ИИ это не есть что-то разумное?
Мы пока не можем толком определить, что такое разум или интеллект. Раньше нам казалось, что между человеком и остальным животным миром — пропасть. Мы разумны, они нет. Но в последнее время биологи находят у многих видов животных все больше отдельных признаков разумного поведения. И это не только обезьяны, но и дельфины, врановые и даже осьминоги. Отличие человека в том, что он обладает более мощным мозгом, и многие признаки разумности проявляются в сочетании.
Мы все лучше понимаем, как работают отдельные нервные клетки и мозг в целом. Но окончательно определить, что есть разум или интеллект и чем это отличается от не-разума или не-интеллекта, наука пока не в состоянии.
Возможно, разум появляется по мере увеличения количественных характеристик нейронной сети — числа нейронов, числа связей, глубины связности. Момент перехода нейронной сети из состояния не-разума в состояние разума невозможно определить однозначно. По мере увеличения размера сети растет объем памяти и появляется все больше новых (эмерджентных) способностей.
Да, мы называем некоторые компьютерные программы искусственным интеллектом. Но это лишь условная договоренность. К естественному биологическому интеллекту они не имеют отношения. Это совершенно разные явления, которые ни при каких обстоятельствах нельзя сравнивать, ставить на одну полку, подменять одно другим или считать разновидностями общего понятия «интеллект».
Легче и честнее вообще отказаться от попыток дать четкое определение разуму или интеллекту, признать эти понятия донаучными, а на языке естественных наук говорить лишь о сочетании способностей живой или неживой системы решать те или иные задачи.
Соизмеряя возникающие возможности и угрозы с целями и задачами человеческой цивилизации, которую мы строим с помощью знаний и технологий. Термин «искусственный интеллект» неудачен тем, что он вводит массы людей в заблуждение. Пока он не выходил за пределы научной среды, все было нормально. Ученые прекрасно понимают всю условность терминов, которые они сами же и придумывают. Плохо, когда профессиональная терминология попадает в информационное пространство без должных объяснений, популяризации идей, смыслов и истории развития, обрастая необоснованными ожиданиями, предвзятостью, неуместными морально-этическими коннотациями, вплоть до массовых когнитивных искажений.
А как же способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?
Осьминоги способны вылезать из лабиринтов и открывать баночки из-под лекарств, причем они этому учатся сами, методом проб и ошибок, без родителей и учителей. Вороны научились с детских горок кататься ради удовольствия — сам наблюдал. Шимпанзе и медведи в цирке катаются на велосипедах, этому их учат дрессировщики. Многие животные-оппортунисты развивают у себя разнообразные навыки путем обучения в изменчивой внешней среде. Однако мы отказываемся называть все это интеллектом.
Определенно, ИИ обладает способностью к обобщению на основе данных. Однако мы отказываем ему в праве называться интеллектом. Уже более двух столетий он для нас всего лишь численный метод приближения функций, восстановления зависимостей по экспериментальным данным. То есть с технологической точки зрения границы понятия «искусственный интеллект» тоже размыты.
Сегодня мы уже считаем рутинными автоматическую проверку орфографии, игру в шашки, шахматы и даже го, распознавание печатных текстов, поисковые системы, распознавание лиц, кредитный скоринг, голосовые помощники и многое другое. Однако на момент постановки эти задачи считались интеллектуальными и причислялись к ИИ. Памела Маккордак в книге 2004 года «Машины, которые думают» заметила: каждый раз, когда кто-то придумывал новый способ заставить компьютер делать нечто новое (например, играть в шашки), обязательно появлялись критики, которые говорили: «Это не мышление, а всего лишь вычисления». Это явление стали называть «эффектом ИИ» (AI effect). Каждый раз понятийная граница между «просто вычислением» и «магией искусственного интеллекта» отодвигалась в сторону еще не решенных задач. Есть даже такая метафора, называемая теоремой Ларри Теслера: «Искусственный интеллект — это те задачи, которые мы еще не научились решать».
Как же большие языковые модели, чат GPT — они тоже всего лишь вычисления? — способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?
Иногда нам кажется, что большие языковые модели (БЯМ, они же LLM, Large Language Model) демонстрируют чудеса разумности.
Однако они всего лишь извлекают сложные взаимосвязи между словами из терабайтов текстов, написанных человечеством. Что бы они ни делали, это лишь отголосок человеческого разума. Да, просто вычисления, которые человек волен как запустить, так и остановить.
Кое-что необычное все же произошло в последние годы. Впервые за 70-летнюю историю искусственного интеллекта вычислительный алгоритм приобрел навыки, которым его не учили в явном виде. Эмерджентные навыки проявились сами собой. Языковая модель GPT училась предсказывать слова в тексте по предыдущему контексту. Затем ее немного доучивали правильно выполнять инструкции в диалоге с людьми. И это всё! Кажется чудом, что заодно она приобрела навыки изложения, сочинения, планирования, перевода с одних языков на другие, решения логических и математических задач, исправления собственных ошибок, поддержания диалога с человеком на любые темы. Не говоря уже о практически идеальной орфографии и грамматике.
Вообще, не существует самоцели создавать искусственный аналог человеческого интеллекта. Есть конкретные задачи автоматизации труда людей, в том числе интеллектуального. Есть конкретные цели и задачи развития человеческой цивилизации. Логично сперва их определить, прийти к коллективному согласию в этих вопросах и отсюда выводить задачи развития технологий ИИ.
Как будут развиваться эти технологии дальше? Не получиться ли так, что рано или поздно мы уже не сможем отказать им в «разумности»?
Очертания прорыва ближайшего будущего в целом уже ясны. Следующее поколение моделей будет учиться не столько на текстах, написанных человечеством, сколько на потоках информации, поступающих из окружающего мира: видео, аудио, сигналы датчиков.
Цель — научиться принимать решения в открытой изменчивой среде, в которой могут происходить какие угодно неожиданности. Модели внимания и адаптации, необходимые для этого, уже отработаны на текстах.
Тексты тоже будут обрабатываться — главным образом ради поддержания коммуникации с людьми. Будут ли такие автономные агенты общаться друг с другом для коллективного решения задач? Да, уже общаются. Смогут ли они вырабатывать для этого собственный язык? Да, уже вырабатывают; причем этот язык непонятен людям, что несколько пугает. Можно ли их заставить использовать для этой цели человеческий язык? Да, и это тоже сделано. Такие модели получили название сократических (Socratic models). Поскольку именно философская школа Сократа рассматривала язык как средство коллективного решения любых задач в любых ситуациях. Кажется, что это уже предельно похоже на интеллект… Но ведь и это — всего лишь вычисления!
Интеллект — это та совокупность механизмов адаптации, которая позволила виду homo sapiens оказаться наверху пищевой цепочки и стать доминирующим видом, преобразующим биосферу планеты.
Тогда получается, что единственное надежное доказательство создания ИИ — его способность превзойти нас в задаче выживания на планете. Естественный интеллект ведь сформировался, ровно эту задачу решая. Жутковато становится… К счастью, в этих рассуждениях есть логическая ошибка. Когнитивное искажение, связанное с идеей замены человека машиной, неудачно заложенное в само понятие artificial intelligence. Давайте исправим эту ошибку, уточнив определение.
Искусственный интеллект — это вычислительные технологии, создаваемые для повышения эффективности интеллектуального труда людей
Как вам такое определение? Если слова нас обманывают, значит надо ответственнее подойти к их выбору, закладывая в них цивилизационные смыслы и цели созидательной деятельности. Пора снимать с повестки дня создание общего искусственного интеллекта, зачем-то превосходящего человеческий. Нам нужны технологии, усиливающие человека и помогающие ему, а не превосходящие и заменяющие его. В таком понимании, если оно будет разделяться всеми, искусственный интеллект становится безопасным для человеческой цивилизации.
Источник: mipt.ru
