Что такое AGI — общий искусственный интеллект уровня человека?

Фото: Shutterstock

Исследователи искусственного интеллекта так и не договорились, что можно считать универсальным ИИ, но ждут его появления уже в ближайшем будущем

Несмотря на прогресс в развитии искусственного интеллекта, даже самые современные модели ИИ пока нельзя назвать общим ИИ (AGI). Они способны выполнять отдельные задачи на уровне человека-профессионала, но не обладают разумностью. Тем не менее, будущие успехи в области нейронаук могут привести к приходу общего искусственного интеллекта в нашу жизнь. Некоторые исследователи уверены, что это произойдет уже в ближайшие годы. «РБК Тренды» объясняют, что такое AGI, в чем его отличие от обычного искусственного интеллекта и когда стоить ожидать его появления.

Что такое AGI?

Общий искусственный интеллект (Artificial general intelligence, AGI) — это раздел теоретических исследований искусственного интеллекта, направленный на разработку ИИ с когнитивными функциями человеческого уровня, включая способность к самообучению. Исследователи предполагают, что такой искусственный интеллект сможет автономно решать множество сложных задач в различных областях знаний.

В других терминах AGI определяется как сильный ИИ. Таким образом, он противопоставляется слабому или узкому ИИ, который может выполнять только определенные или специализированные задачи в рамках предопределенного набора параметров. Примерами таких систем могут выступать системы Watson от IBM или AlphaFold от Google DeepMind, которые решают задачи в науке лучше людей, но имеют узкую специализацию.

Мнения о том, как может быть реализован такой ИИ, расходятся, поскольку он остается теоретической концепцией. Например, исследователь ИИ Питер Восс определяет общий интеллект как имеющий «способность учиться чему угодно в принципе». Согласно этому критерию, способность к обучению у AGI должна быть «автономной, целенаправленной и высокоадаптивной».

Тем не менее, исследователи ИИ сходятся на том, что AGI относится к «системам ИИ, которые обладают разумной степенью самопонимания и автономного самоконтроля и способны решать множество сложных задач в различных контекстах и учиться решать новые задачи, о которых они не знали на момент своего создания».

Как должен выглядеть AGI?

Настоящий AGI должен уметь выполнять задачи человеческого уровня, а для этого ему потребуются абстрактное мышление, обширные знания, здравый смысл и умение строить причинно-следственные связи.

В McKinsey выделяли восемь черт, которые должны быть присущи AGI:

• визуальное восприятие. Нынешние системы ИИ пока не обладают тем уровнем сенсорного восприятия, каким обладает человек. Например, системы, обученные с помощью глубокого обучения, все еще плохо различают цвета. Некоторые беспилотные автомобили получалось обмануть, наклеив черную ленту на красный знак «Стоп», а в других случаях они путали этот знак с изображением на футболке;
• аудиовосприятие. Люди используют звуки для определения пространственных характеристик среды, различают фоновый шум и определяют, где находится говорящий. Системы ИИ обладают более ограниченной способностью извлекать и обрабатывать звук, они пока не способны интерпретировать его так же хорошо, как люди;
• навыки мелкой моторики. Роботы с искусственным интеллектом пока не достигли такого уровня мелкой моторики, который позволил бы им заплетать волосы или самостоятельно проводить операции;
• обработка естественного языка. Чтобы конкурировать с человеческим уровнем познания, AGI должен осознанно анализировать источники информации. Он также должен понимать скрытые смыслы. Последние инструменты ИИ продемонстрировали улучшенную обработку естественного языка, но им все еще не хватает настоящего понимания контекста. Так, исследователи выяснили, что большие языковые модели, такие как GPT-4o и Claude, не могут правильно подсчитать число букв r в слове strawberry. Они выдают ответ, что эта буква встречается в слове дважды, а не трижды; GPT-4o ошибается при подсчете букв «r» в слове «strawberry» (Фото: x.com)
• способность самостоятельно решать проблемы. Система AGI должна уметь распознавать наличие проблемы, например, понимать, что перегорела лампочка, чтобы заменить ее. Для этого общему ИИ потребуется как минимум научиться проводить симуляции вероятностей возникновения той или иной проблемы. Системы также должны уметь учиться на своем опыте и адаптироваться к новым ситуациям без явного вмешательства со стороны людей;
• навигация. Технология GPS в сочетании с такими возможностями, как одновременное определение местоположения и картографирование (или SLAM, используется в беспилотных автомобилях и роботах-пылесосах), добилась значительного прогресса. Но для создания роботизированных систем, которые могут перемещаться автономно без участия человека, по-прежнему требуются годы работы;
• креативность. Чтобы ИИ стал ОИИ, ему потребуется переписать собственный код. Это потребует понимания огромного объема кода и поиска новых способов его улучшения;
• социальная и эмоциональная вовлеченность. Чтобы успешно взаимодействовать с людьми, ИИ должен уметь интерпретировать выражения лица и изменения в тоне, выявляя скрытые эмоции. Однако эта проблема не решена пока даже на уровне экспертного сообщества, поэтому говорить о прогрессе в сфере искусственного интеллекта пока рано.

Какие существуют подходы к развитию AGI?

Из-за неопределенной концепции AGI существуют различные теоретические подходы к тому, как его можно создать. Некоторые из них включают такие методы, как нейронные сети и глубокое обучение, в то время как другие методы предлагают создание крупномасштабных симуляций человеческого мозга с использованием вычислительной нейронауки. Исследователь ИИ и «отец AGI» Бен Герцель выделил несколько подходов, которые появились в области исследований общего ИИ:

• символический — убеждение, что символическое мышление является «основой человеческого общего интеллекта»;
• эмерджентистский — идея о том, что человеческий мозг по сути является набором простых элементов или нейронов, которые самоорганизуются сложным образом в ответ на опыт тела. Сторонники этого подхода считают, что общий ИИ может возникнуть в результате воссоздания подобной структуры;
• гибридный — рассматривает мозг как гибридную систему, в которой множество различных частей работают вместе, чтобы создать нечто общее, работа чего будет больше суммы его частей;
• универсалистский — этот подход основан на «математической сущности общего интеллекта». Как только получится создать AGI в теоретической области, используемые для этого принципы можно будет применить и в реальности.

Какие технологии лежат в основе разработки AGI?

В настоящее время для создания систем AGI применяется несколько основных дисциплин и технологий.

Глубокое обучение

Это обучение нейронных сетей с множеством скрытых слоев для извлечения и понимания сложных взаимосвязей из необработанных данных. Эксперты по ИИ используют глубокое обучение для создания систем, способных понимать текст, аудио, изображения, видео и другие типы информации.

Генеративный искусственный интеллект

Это разновидность глубокого обучения, при которой система ИИ может создавать уникальный и реалистичный контент на основе полученных знаний. Модели генеративного ИИ обучаются на основе огромных наборов данных, что позволяет им отвечать на запросы людей в форме текстов, аудио или визуальных произведений. ИИ-компании уже сталкиваются с проблемами нехватки информации для обучения таких моделей, поэтому планируют решить их благодаря использованию синтетических данных.

Обработка естественного языка

Natural Language Processing (NLP) — это направление обучения ИИ, которая позволяет компьютерным системам понимать человеческий язык и генерировать информацию с его использованием. Системы NLP используют компьютерную лингвистику и технологии машинного обучения для преобразования языковых данных в простые представления (токены), а затем учатся распознавать контекстуальные взаимосвязи.

Машинное зрение

Это технология, которая позволяет системам извлекать, анализировать и понимать пространственную информацию из визуальных данных. Технологии глубокого обучения позволяют системам автоматически распознавать, классифицировать объекты, вести их мониторинг и выполнять другие задачи обработки изображений.

Робототехника

Это инженерная дисциплина, в рамках которой можно создавать механические системы, автоматически выполняющие физические маневры. В будущем совершенствование технологий разработки позволит наделять роботов сенсорным восприятием и учить их выполнять сложные физические манипуляции, требующие мелкой моторики.

Различия между AGI и ИИ

Исследователи выделяют несколько ключевых различий между общим и обычным искусственным интеллектом.

• Принцип работы: AGI предлагает уровень когнитивных функций, сопоставимый с человеческим, тогда как ИИ имитирует человеческое обучение и рассуждения.
• Способность к обучению: AGI учится как человек, тогда как ИИ ограничен правилами, установленными программой.
• Процесс рассуждения: AGI свободно рассуждает и решает проблемы без стороннего вмешательства, и ИИ использует рассуждение и другие функции только благодаря этому вмешательству.

Какие достижения могут ускорить разработку AGI

Прогресс в области алгоритмов, вычислений и данных привели к ускорению работы над общим ИИ.

Развитие алгоритмов и новые подходы в робототехнике

Исследователям могут понадобиться совершенно новые подходы к алгоритмам и роботам для достижения AGI. Один из способов, который может помочь в этом, — это изучение концепции воплощенного познания. Идея заключается в том, что роботам нужно будет очень быстро учиться на основе своего окружения с помощью множества чувств, как это делают дети. В итоге они смогут воспринимать физический мир подобно людям.

Еще одной технологией, которая уже применяется в новейших роботизированных системах на основе ИИ, выступают большие поведенческие модели (LBM). Они позволяют роботам имитировать действия и движения человека. Эти модели создаются путем обучения ИИ на больших наборах данных действий и движений. Так, в Nvidia представили инициативу Project GR00T по разработке универсальных базовых моделей, инструментов и технологий для человекоподобных роботов.

Как устроено обучение роботов в Project GR00T (Фото: nvidia.com)

Достижения в области вычислений

Благодаря графическим процессорам (GPU) стали возможны основные прорывы в области ИИ за последние несколько лет. Во-первых, GPU предназначены для одновременной обработки нескольких задач, связанных с визуальными данными, включая рендеринг изображений, видео и графические вычисления. Эффективность GPU в обработке огромных объемов визуальных данных делает их полезными для обучения сложных нейронных сетей. Они также имеют высокую пропускную способность памяти, что означает более быструю передачу данных. Прежде чем создать AGI, потребуется добиться аналогичных значительных успехов в вычислительной инфраструктуре. Вероятно, выходом станут квантовые вычисления. Например, Google представила квантовый чип Willow. Он может решить вычислительную задачу за пять минут, тогда как на ту же задачу у самого быстрого в мире суперкомпьютера уйдет десять септиллионов лет.

Рост объема и новые источники данных

Некоторые эксперты считают, что мобильная инфраструктура 5G может привести к значительному увеличению объема данных. Это связано с тем, что технология обеспечит рост подключения умных устройств и популярность интернета вещей. Кроме того, новые источники данных для обучения могут появиться в сфере робототехники. Практическое внедрение человекоподобных роботов позволит компаниям добывать больше новых данных. Например, усовершенствованные беспилотные автомобили собирают такие данные, когда проходят тестирование на дорогах, и эта информация помогает обучать робомобили.

Прогнозы относительно будущего AGI

В 2024 году аналитики американской исследовательской и консалтинговой компании Gartner презентовали традиционный отчет Hype Cycle for Emerging Technologies. В нем фигурирует и AGI. В Gartner отметили, что технология находится на этапе триггера инноваций (то есть находится в фазе запуска и только «прорывается в свет»), а ее внедрение займет не менее 10 лет. По данным сайта Metaculus, собирающего оценки специалистов по разным темам, эксперты считают, что AGI будет создан в 2032 году.

Некоторые представители отрасли считают, что AGI появится в течение следующих лет или десятилетий. Например, глава xAI Илон Маск и основатель OpenAI Сэм Альтман ожидают появления общего ИИ уже в 2025-2026 гг. Ранее исследователи из Microsoft и OpenAI уже заявили, что GPT-4 «можно обоснованно рассматривать как раннюю (но все еще неполную) версию системы AGI» благодаря способности «решать новые и сложные задачи, которые охватывают математику, кодирование, зрение, медицину, юриспруденцию, психологию и многое другое, без необходимости какой-либо специальной подсказки». Однако с этим утверждением спорят многие ученые. Например, профессор Колумбийского университета Вишал Мисра смог взломать работу алгоритма GPT-4. Он давал ему задание найти в списке слова, где «к» не является третьей по счету буквой. Когда ChatGPT отвечал правильно, исследователь вводил новую подсказку. В итоге бот извинялся и выдавал новый, но уже неверный ответ. «Он может решать некоторые уравнения, рисовать диаграммы и довольно хорошо анализировать вещи, но иногда терпит неудачу в простых вещах», — заявил Мисра по итогам тестов. А разработчики ИИ из Apple и вовсе опубликовала статью, в которой опровергли способность больших языковых моделей к рассуждениям. Основная идея материала — ИИ не умеет думать как человек, а лишь имитирует мышление.

Исследователи немного меняли вопросы, добавляя в них случайные детали, и это сбивало ChatGPT с толку (Фото: arxiv.org)

Другие исследователи более сдержанны в своих оценках. Инженер Google Рэй Курцвейл уверен, что ИИ достигнет «человеческого уровня интеллекта» в 2029 году и превзойдет его к 2045 году. Его позицию разделяет и один из пионеров программирования Джон Кармак, который считает, что сильный ИИ общего назначения с вероятностью 60% будет создан до 2030 года, с вероятностью 95% — до 2050 года. При этом он уверен, что ОИИ не приведет к глобальным изменениям в обществе.

Джефф Хинтон, лауреат премии Тьюринга, считает, что ОИИ появится менее чем через 20 лет, но не будет представлять экзистенциальной угрозы. А лауреат той же премии, Йошуа Бенджио, утверждает, что разработка такого ИИ потребует десятилетий. Между тем соучредитель и главный научный сотрудник NNAISENSE и директор швейцарской лаборатории ИИ IDSIA Юрген Шмидхубер считает вероятным появление AGI примерно к 2050 году. Родни Брукс, робототехник из Массачусетского технологического института и соучредитель iRobot, считает, что ОИИ и вовсе не появится до 2300 года.

Отдельные ученые уверены, что AGI не получится реализовать никогда. Как отмечает Бен Герцель, трудно объективно измерить прогресс в направлении ОИИ, поскольку «существует много разных путей» и нет «полной и систематической теории AGI». По его словам, нынешнее представление об общем ИИ — это, скорее, это «лоскутное одеяло из пересекающихся концепций, фреймворков и гипотез», которые «часто являются синергетическими, а иногда и взаимно противоречат друг другу». С этим утверждением соглашается и Сара Хукер из исследовательской лаборатории Cohere: «Это действительно философский вопрос». По ее мнению, очень маловероятно, что пришествие AGI будет выглядеть как единое событие, когда человечество придет к выводу, что достигло общего ИИ. Хукер полагает, что даже при достижении всеобщего согласия среди исследователей относительно AGI явного победителя в этой гонке не будет.

Действительно, вехи, которыми ранее было принято определять приход AGI, видоизменяются. Например, ранее считалось, что способности ИИ станут неотличимы от человеческих, если он пройдет тест Тьюринга, впервые предложенный ученым-компьютерщиком Аланом Тьюрингом. Однако в 2024 году ученые-когнитивисты из Калифорнийского университета в Сан-Диего заявили, что GPT-4 успешно прошел этот тест, обманув испытуемых-людей в 54% случаев. Тем не менее, о приходе AGI официально не объявлялось. Вместо этого ученые заявили, что стоит переосмыслить сам тест. Математик Алан Тьюринг разработал его еще в 1950 году. Участник-человек должен был общаться с компьютером через текстовый интерфейс. В случае если ответы компьютера нельзя отличить от человеческих по широкому спектру возможных вопросов, то нужно признать, что он так же разумен, как и человек, рассуждал Тьюринг. Однако теперь исследователи пришли к тому, что современный ИИ лишь способен обмануть человека, заставив его думать, что он общается с кем-то подобным себе.

Самой же фундаментальной проблемой, которую предстоит решить ученым и разработчикам, — оценить разумность ИИ, поскольку пока даже на уровне нейробиологии неясно, как возникновение сознательного опыта происходит в результате физических процессов в мозге. Точно так же, как никто не знает, как и почему взаимосвязанные нейроны функционируют для создания разума, непонятно, как взаимосвязанные схемы или взаимосвязанные узлы компьютерной программы могут привести к возникновению самосознания.

Опасения относительно AGI

Затормозить разработку AGI могут и связанные с его появлением страхи ученых. Английский физик-теоретик, космолог и писатель Стивен Хокинг еще в 2014 году говорил, что «развитие полноценного искусственного интеллекта может означать конец человеческой расы». По словам Хокинга, это обусловлено тем, что такой ИИ «адаптировался бы все быстрее, а люди, ограниченные медленной биологической эволюцией, не смогли бы конкурировать с ним и были бы вытеснены из этого процесса». Особое беспокойство у некоторых исследователей вызывает искусственный суперинтеллект — случайное создание AGI, который будет умнее людей и потенциально может быть использоваться во вред человечеству. Сторонником такого подхода выступает, например, сооснователь OpenAI Илья Суцкевер, который в 2024 году покинул компанию. Теперь он возглавляет организацию Safe Superintelligence Inc. (SSI, «Безопасный Суперинтеллект»). Проект нацелен на создание безопасного сверхинтеллекта.

Один из пионеров искусственного интеллекта Джеффри Хинтон настроен в отношении ИИ еще более радикально. В 2023 году он ушел с поста вице-президента Google, чтобы предупредить человечество об опасностях технологии. Хинтон считает, что ИИ может стать умнее людей уже в течение пяти лет благодаря развитию больших языковых моделей. Исследователь говорит, что современные ведущие модели ИИ уже обладают подлинным интеллектом и способностями к рассуждению, а скоро будут получать и собственный опыт подобно людям. Хинтон допускает, что со временем системы ИИ будут обладать сознанием. Он предостерегает от спешки в обучении более продвинутых моделей, указывая на резкий рост дезинформации, потерю рабочих мест и даже появление автономного оружия, которое сможет уничтожить человечество.

Источник: trends.rbc.ru

Источник