Будущее искусственного интеллекта — развитие AGI и перспективы суперинтеллекта
Искусственный интеллект стремительно развивается, с прогнозами появления AGI в ближайшие годы, что приведет к значительным изменениям в экономике, обществе и политике. Ожидается, что к 2030 году AGI сможет выполнять большинство интеллектуальных задач, что вызовет необходимость в новых моделях социальной защиты и регулирования для управления рисками и неравенством.
Введение
Искусственный интеллект (ИИ) стремительно эволюционирует, и за последние годы мы стали свидетелями качественного скачка в этой области. Появление больших языковых моделей (LLMs), таких как OpenAI GPT-4.5 и o1, Claude 3.7, Deepseek R1 продемонстрировало, что ИИ способен генерировать связанный текст, программный код и даже проходить сложные экзамены. Массовое распространение этих моделей произошло беспрецедентно быстро: например, ChatGPT достиг 100 миллионов пользователей всего за два месяца, став самым быстрорастущим приложением в истории . Одновременно развиваются генеративные модели для аудио-визуального контента – нейросети, создающие фотореалистичные изображения, видео и синтезирующие речь на основе текстовых описаний. Эти достижения оживили давнюю цель исследователей – переход от узкоспециализированного ИИ к искусственному общему интеллекту (AGI), способному решать любые интеллектуальные задачи на уровне человека, а в перспективе и превзойти человеческие возможности (суперинтеллект).
Темпы прогресса вызывают серьезные вопросы о том, как ИИ повлияет на различные сферы жизни. Экономические модели, политические институты, культура, рынок труда и само общество – все ожидают серьезных перемен. Настоящий отчет предлагает углубленный анализ будущего ИИ с фокусом на развитии AGI и потенциального суперинтеллекта, с прогнозами на горизонты 1–3, 3–5, 5–10 и 10–20 лет. Мы обобщим мнения ведущих экспертов, рассмотрим глобальные тенденции и сравним грядущие изменения с великими переломными эпохами прошлого, такими как индустриальная революция XVIII–XIX веков.
Мнения ведущих экспертов об перспективах AGI
Мнения экспертов по поводу сроков появления AGI разнятся, однако многие сходятся в том, что человеческого уровня ИИ мы можем увидеть уже в ближайшие годы или десятилетия . Ниже приведены оценки некоторых влиятельных руководителей и исследователей:
• Дарио Амодеи (CEO Anthropic) – один из самых смелых прогнозов: Амодеи считает, что способности ИИ достигнут уровня “страны гениев” уже к 2026–2027 годам, то есть появится система, коллективный интеллект которой сопоставим с населением целой страны из исключительно одаренных людей . Это фактически означает приближение к суперинтеллекту. Он предупреждает, что такой прорыв почти наверняка произойдёт не позднее 2030 года при текущих темпах . Амодеи называет подобный ИИ «страной гениев в дата-центре» и указывает на колоссальные экономические, социальные и безопасностные последствия этого шага. По его словам, появление столь мощного ИИ может стать «самым большим изменением на рынке труда за всю историю», превосходя все предыдущие технологические революции по масштабу влияния.
• Сэм Альтман (CEO OpenAI) – также настроен оптимистично в отношении близости AGI. Он отмечает, что индустрия уже делает огромные шаги к AGI, и выражал надежду увидеть появление настоящего AGI уже в 2025 году. Альтман считает, что такой ИИ сможет повысить продуктивность, “возвысить человечество” и привести к изобилию и новым открытиям.
• Джеффри Хинтон – один из пионеров глубинного обучения (“крёстный отец ИИ”) – после недавних достижений изменил свой прогноз на более смелый. В 2023 году он написал, что ожидает появление ИИ, превосходящего человека по уму, в срок от 5 до 20 лет, оговариваясь при этом, что уверенности в таких оценках мало, ибо “мы живем в очень неопределённые времена” . Иными словами, уже к концу 2020-х ИИ может сравняться с человеческим интеллектом, хотя не исключено, что это займёт и пару десятилетий.
• Демис Хассабис (CEO Google DeepMind) – придерживается более консервативной позиции. По его мнению, ИИ, способный рассуждать на уровне человека, появится не раньше чем через десятилетие (то есть ориентировочно в середине 2030-х годов). Хассабис, как и многие, подчёркивает необходимость осторожности и этичности при движении к AGI.
• Эндрю Ын (профессор и сооснователь Coursera) – выражает скептицизм относительно быстрого появления AGI. Он определяет AGI как систему, способную выполнять любые интеллектуальные задачи человека (от вождения автомобиля до написания диссертации), и не уверен, что мы достигнем этого в ближайшее время . Ын отмечает: “Надеюсь, мы увидим это на нашем веку, но уверенности нет”, призывая с осторожностью относиться к громким заявлениям о скором появлении AGI.
Как видно, разброс мнений достаточно велик – от 2–3 лет до нескольких десятилетий. Однако общий тон экспертного сообщества всё больше смещается от абстрактных размышлений к признанию, что прорыв к общему интеллекту может произойти уже в текущем поколении. Далее мы рассмотрим детальные прогнозы по конкретным временным промежуткам, учитывая эти мнения и текущие тенденции.
Глобальные прогнозы развития ИИ по временным рамкам
Развитие ИИ – процесс нелинейный, но для удобства анализа его можно разбить на этапы. Ниже представлен суммарный прогноз ключевых событий и влияния ИИ в горизонтах 1–3, 3–5, 5–10 и 10–20 лет (примерно охватывая период до середины 2040-х годов). Эти оценки предполагают сохранение нынешних темпов прогресса и усиление инвестиций, хотя реальные сроки могут сдвигаться.
- Горизонт
1–3 года (2025–2028)
- Технологии ИИ
— Новые LLM-модели (GPT-4.5/5, Claude и др.) с выросшими возможностями;
— Улучшение мультимодальности: ИИ лучше понимает и генерирует не только текст, но и изображения, аудио, видео;
— Широкое внедрение генеративных моделей в бизнес-процессы (от поддержки клиентов до дизайна и маркетинга).
- Экономика и рынок труда
— Рост продуктивности в офисных сферах благодаря ИИ-ассистентам;
— Частичная автоматизация рутины в юриспруденции, переводе, кодировании;
— Начало перестройки рабочих мест: новые роли (например, инженеры по промптам) и переквалификация сотрудников.
- Общество и политика
— Регулирование в зародыше: первые законы (например, европейский AI Act) и стандарты этики ИИ;
— Глобальные форумы по ИИ (наследие саммита в Париже 2023) — согласование принципов использования;
— Культурные сдвиги: рост доверия и настороженности — ИИ становится частью жизни (виртуальные помощники, AI-контент), но общество обсуждает риски (дезинформация, плагиат).
- Горизонт
3–5 лет (2028–2030)
- Технологии ИИ
— Появление первых систем, близких к AGI: ИИ выполняет большинство интеллектуальных задач на уровне среднего человека;
— Объединение моделей: текст + изображение + звук + действие (управление компьютером) в единых агентах;
— Текст-видео и музыка генерация становится массовой и правдоподобной.
- Экономика и рынок труда
— Автоматизация 2.0: ИИ начинает выполнять работу в сферах, ранее считавшихся безопасными (анализ данных, журналистика, базовое медконсультирование);
— По оценкам, к концу десятилетия до 25% рабочих задач могут быть автоматизированы ИИ ;
— Производительность растёт, ВВП +7% ежегодно за счёт ИИ в оптимистическом сценарии , но требуют решения вопросы перераспределения благ.
- Общество и политика
— Гонка вооружений в ИИ: государства усиливают конкуренцию за превосходство в AI (особенно США и Китай), возможны соглашения по контролю за высокоуровневым ИИ;
— Развитие законодательства: обязательная сертификация мощных моделей, ограничения на deepfake-контент;
— Социальные изменения: система образования перестраивается (ИИ-тьюторы, индивидуальное обучение), в культуре – расцвет контента, созданного ИИ, и одновременные дебаты о ценности человеческого творчества.
- Горизонт
5–10 лет (2030–2035)
- Технологии ИИ
— Порог AGI пройден: ИИ достигает или превосходит уровень человека во всех основных когнитивных задачах ; возможно, создан первый полноценный AGI в ограниченной среде;
— Начало эпохи суперинтеллекта: наиболее продвинутые системы начинают обгонять лучшие человеческие умы (нобелевских лауреатов) по скорости открытия нового ;
— ИИ становится автономнее: может сам ставить цели и выполнять сложные проекты (под надзором человека).
- Экономика и рынок труда
— Рынок труда трансформирован: значительная доля профессий автоматизирована. По некоторым определениям, к этому моменту можно говорить о наступлении AGI, если ИИ способен выполнять ~80% текущих работ ;
— Огромный экономический рост у лидеров ИИ-гонки; возможен рост неравенства: владельцы и разработчики AGI получают львиную долю выгод;
— Появляются новые отрасли (массовое производство робототехники с AGI-мозгом, персональные ИИ-ассистенты-врачи и т.д.), но нужно адаптировать миллионы работников.
- Общество и политика
— Глобальное регулирование и этика: создаются международные органы по надзору за AGI, аналогичные атомным агентствам, чтобы предотвратить злоупотребления;
— Политическая перезагрузка: страны, лидирующие в создании AGI, получают огромное геополитическое влияние (сравнимое с обладанием ядерным оружием или больше);
— Общество переживает смешанные последствия: с одной стороны, ИИ решает ранее неразрешимые проблемы (например, предлагает пути лечения болезней, смягчение климата), с другой – возникает экзистенциальная тревога перед будущим, где машина превосходит человека.
- Горизонт
10–20 лет (2035–2045)
- Технологии ИИ
— Суперинтеллект становится реальностью: ИИ не только умнее любого человека, но и потенциально совокупно умнее всего человечества (как предсказывал Амодеи) ;
— Возможна частичная или полная самоэволюция ИИ: системы улучшат собственные архитектуры (если разрешено, это ускоряет рост интеллекта лавинообразно);
— Технологические возможности достигают новой эпохи: от полноценных роботизированных фабрик до симбиоза ИИ с человеком (нейроинтерфейсы, киборгизация).
- Экономика и рынок труда
— Пост-индустриальная экономика: большинство товаров и услуг производится автоматизированно; стоимость близка к нулю в сферах с ИИ (энергия, транспорт, базовое производство) -> предпосылки к экономике изобилия;
— Безусловный базовый доход или иные модели соцобеспечения становятся необходимыми, чтобы поддерживать население в мире, где труд как средство заработка утрачен для многих;
— Люди концентрируются на сферах, где ценятся креативность, артистизм, эмпатия или на контроле и направлении ИИ.
- Общество и политика
— Новый общественный строй: вероятно возникновение качественно новых социальных контрактов – от технократии, опирающейся на ИИ, до расширенной демократии, где ИИ консультирует правительства;
— Глобальная политика может сместиться к кооперации: перед лицом сверхмощного ИИ человечество объединяется для обеспечения безопасности и контроля над ним (во избежание сценариев “утраты контроля” или катастрофических рисков );
— Культурно человечество переосмысляет свою роль: если ИИ превосходит нас, возникает вопрос о смысле человеческой деятельности, ценности уникально человеческого опыта. Возможны как ренессанс культуры и философии, так и упаднические настроения – в зависимости от того, насколько позитивно или негативно складывается сотрудничество с суперинтеллектом.
1–3 года (2025–2028): Расширение возможностей ИИ и начало трансформаций
Технологии и LLM.
В ближайшие 1–3 года ожидается эволюционное (но очень быстрое) развитие нынешних технологий. Будут выпущены более мощные версии больших языковых моделей: вероятно появление GPT-5 от OpenAI или её аналогов, способных к ещё более глубокому пониманию контекста и сложным многошаговым рассуждениям. Модели станут более мультимодальными – единый ИИ сможет принимать на вход текст, изображения, аудио и видео, и генерировать их комбинации. Generative AI во всех форматах станет доступнее: если сегодня уже доступны инструменты типа DALL-E 3, Midjourney (генерация изображений) и начальные версии text-to-video моделей, то через пару лет качество генерируемого видео и аудио вырастет до уровня, близкого к профессиональному. ИИ-ассистенты будут интегрированы повсеместно – в офисные приложения, поисковые системы, бытовую электронику – становясь привычным “вторым пилотом” для каждого пользователя в решении повседневных задач.
Экономика и рынок труда.
На краткосрочном горизонте мы увидим масштабное внедрение ИИ-инструментов в бизнес-процессы, что повысит эффективность работников. Компании начнут массово внедрять чат-ботов для поддержки клиентов, ИИ-аналитику для обработки данных, автоматизированных копирайтеров для генерации рекламного текста и т.д. Это приведет к повышению производительности труда во многих сферах. Аналитики Goldman Sachs оценивают, что генеративный ИИ способен автоматизировать до 25% всех рабочих задач, затронув эквивалент 300 миллионов рабочих мест по всему миру . Однако за 1–3 года полная автоматизация стольких рабочих мест не произойдет – вместо этого произойдет изменение характера работы: люди будут выполнять задачи совместно с ИИ, возьмут на себя роль контроля качества, постановки задач ИИ и т.д. Возникнет спрос на новые навыки – умение эффективно пользоваться AI-инструментами; сотрудники, владеющие такими навыками, смогут значительно повысить свою ценность на рынке труда. Ранние исследования показывают, что внедрение ИИ в работу может не только вытеснять профессии, но и повышать доходы специалистов, способных пользоваться ИИ: благодаря росту производительности такие работники могут прибавлять десятки тысяч долларов к годовым доходам . Тем не менее, уже в этом периоде некоторые профессии столкнутся с сокращением вакансий – например, рутинные задачи офис-менеджмента, администрирования, перевода текстов во многом автоматизируются. Компании могут замораживать найм на некоторые роли, ожидая, что ИИ справится с частью обязанностей.
Политика и регулирование.
Быстрый прогресс ИИ уже привлёк внимание законодателей, и в ближайшие годы мы увидим первые реальные регуляторные шаги. В Европе вступит в силу Всеобъемлющий акт об ИИ (AI Act), вводящий классификацию рисков ИИ-систем и требования к прозрачности для разработчиков. В других юрисдикциях также появятся законы, обязывающие маркировать сгенерированный контент (чтобы бороться с дезинформацией и deepfake), защищать персональные данные при обучении моделей и т.д. Однако глобального консенсуса по регулированию пока нет – события 2023 года (например, Парижский саммит по ИИ) показали расхождение позиций: США и ряд стран не спешат вводить жёсткие ограничения, опасаясь затормозить инновации . В 1–3 года, вероятно, продолжится конкуренция держав за лидерство в ИИ, и это будет сдерживать международное сотрудничество. Тем не менее, выработается понимание необходимости безопасной разработки ИИ: ведущие компании уже формируют внутренние политики ответственного развертывания (например, Anthropic ввела политику безопасного масштабирования моделей в 2023 году ). Возможно создание международных экспертных групп при ООН или других организациях, которые будут мониторить прогресс к AGI и предлагать меры предосторожности. Политики начнут активнее обсуждать вопросы кого оставить “у руля” при взлёте AGI– требуя прозрачности от тех самых “небольших групп предпринимателей и инженеров”, от решений которых зависит будущее всех.
Культура и общество.
В краткосрочной перспективе ИИ всё глубже проникает в повседневную жизнь людей. Уже сейчас многие пользуются голосовыми помощниками, автодополнением текста и умными рекомендациями – в ближайшие годы эти взаимодействия станут ещё более естественными. Можно ожидать появления персональных помощников на базе LLM, которые знают про пользователя практически всё (его расписание, стиль общения, предпочтения) и помогают в делах – от планирования маршрутов до психологической поддержки. Культура начнет отражать новую реальность: тема ИИ станет центральной в кино, литературе, искусстве. Появляется новый пласт творчества – совместные работы человека и ИИ (например, фильмы, смонтированные ИИ из набросков режиссёра, или картины, нарисованные нейросетью по эскизам художника). В то же время общество беспокоят этические вопросы. Широкое распространение генеративного контента поднимает проблему достоверности: когда фальшивое видео с политиком, созданное нейросетью, неотличимо от настоящего, доверие к медиа может падать. Возникает феномен “информационной неопределенности” – люди учатся критически относиться к любым цифровым материалам, усиливается спрос на средства верификации и “цифровые подписи” контента. К 2025–2028 гг. вероятно формирование новых норм: например, негласное правило, что школьники могут использовать ChatGPT для черновика сочинения, но должны самостоятельно переработать текст; или, скажем, музыканты начнут гордиться «ручной» композицией без участия ИИ, подобно тому, как сейчас ценится аналоговая пленочная фотография. Общество в целом переживает адаптационный период – настороженность соседствует с восхищением.
Широкая публика, ранее далекая от технологий, начинает осознавать потенциал ИИ и одновременно его риски.
3–5 лет (2028–2030): Первые системы, близкие к AGI, и нарастающее воздействие
Технологический прорыв к AGI.
На горизонте 3–5 лет многие эксперты прогнозируют появление систем, демонстрирующих качества настоящего общего интеллекта. Бывший руководитель отдела подготовки к AGI в OpenAI Майлз Брандидж отмечал, что в следующие несколько лет индустрия создаст “системы, которые по сути могут делать всё, что человек делает за компьютером” . Это подразумевает, что ИИ сможет самостоятельно управлять интерфейсом компьютера – перемещать курсор, кликать, набирать тексты, анализировать информацию – и выполнять практически любые цифровые задачи не хуже человека. К 2028 году может состояться прорывное событие: демонстрация прототипа AGI в ограниченной области или прохождение ИИ классического теста Тьюринга на неразличимость от человека. Такие модели, которые Anthropic называет “powerful AI”, будут обладать широкими знаниями, умением учиться и адаптироваться к новым задачам без дополнительного обучения . По описанию Амодеи, это мультимодальные, независимые, кооперативные интеллектуалы без физического тела, но способные мыслить быстрее и в больших объемах, чем человек.
Генеративные модели аудио-видео к тому времени достигнут впечатляющего реализма. Короткометражный фильм, полностью сгенерированный ИИ по текстовому сценарию, станет обыденностью. Сервисы будут создавать персонализированные видеоролики по просьбе пользователя (например, «сделай мне 5-минутное видео в стиле комедии положений про мой день рождения»). Голоса и мимика, генерируемые ИИ, будут практически неотличимы от человеческих. Это откроет новые горизонты в развлечениях, образовании (виртуальные наставники, разыгрывающие исторические сцены) и коммуникациях, но также и заставит усилить борьбу с виртуальными фальшивками.
Экономические изменения.
В этот период влияние ИИ на экономику станет очевидно революционным. Компании, интенсивно внедряющие ИИ, начнут значительно опережать конкурентов. Произойдет перераспределение рабочих мест: если на горизонте 1–3 лет ИИ дополнял работников, то на 3–5 годах он начнет замещать многих из них. По оценкам экономистов, две трети текущих профессий подвержены хотя бы частичной автоматизации ИИ , и к 2030 году мы можем увидеть, как ряд профессий исчезает или резко сокращается. Например, бухгалтерия, ипотечные брокеры, техподдержка – значительная часть типовых запросов и операций будет выполняться машинами. Творческие индустрии также трансформируются: вместо десятков монтажеров на студии может работать один режиссёр с ИИ-инструментом, вместо штатных иллюстраторов – один арт-директор с генеративной моделью. Согласно прогнозам, мировой ВВП будет расти на 7% быстрее ежегодно благодаря внедрению ИИ – к концу 2020-х глобальная экономика может быть на десятки триллионов долларов больше, чем могла бы без ИИ. Однако распределение этих богатств станет острой проблемой. Уже проявятся социально-экономические разрывы: высококвалифицированные специалисты и владельцы технологий станут богаче, а миллионы работников сервисных и административных отраслей рискуют остаться без работы или с пониженным доходом. Это побудит правительства активнее обсуждать новые модели социальной защиты: сокращение рабочей недели, программы массового переобучения, возможно, пилотные проекты безусловного базового дохода, финансируемые за счёт сверхприбыли технологических гигантов.
Политика и глобальная конкуренция.
К концу 2020-х геополитика ИИ выйдет на первый план. Страны осознают, что обладание продвинутым ИИ – это стратегическое преимущество, сравнимое с ядерным оружием или даже превосходящее его. Возможен новый виток гонки технологий: государства усиливают инвестиции в суперкомпьютеры и талантов в области ИИ. Лидеры ИИ (США, Китай, возможно, объединённая Европа) могут вступить в напряжённое соперничество. С другой стороны, увеличится и сотрудничество: перед лицом рисков супер-интеллекту несколько крупных держав могут заключить соглашения о нераспространении опасных ИИ-систем, обмениваться информацией об исследованиях безопасности, подобно тому как сотрудничали в сфере ограничения ядерных вооружений. Внутренняя политика государств также претерпит изменения.
Законодательство об ИИ окрепнет: к 2030 году станет обязательным государственное лицензирование для разработчиков наиболее мощных моделей, с аудитом их безопасности. Будут приняты законы против автономных летальных оружий на базе ИИ (оружие без “человека в цикле” станет запрещаться международными конвенциями, либо наоборот, некоторые страны развернут такие системы, что вызовет осуждение мирового сообщества). Также, общества потребуют прозрачности алгоритмов, особенно тех, что влияют на жизнь людей (кредитный скоринг, найм, судебная система) – вплоть до предоставления гражданам права знать, какие решения в отношении них принимались ИИ и на основе каких данных.
Социальные и культурные тренды.
К началу 2030-х ИИ станет привычным “участником” общества. Многие люди будут ежедневно общаться с ИИ-агентами, которые станут всё более очеловеченными. Появится концепция «цифровых людей» – персон с внешностью и характером, полностью созданных ИИ, которые могут выступать как виртуальные телеведущие, актеры, друзья по переписке. Например, компания может иметь виртуального бренд-амбассадора, с которым клиенты общаются как с живым представителем фирмы. В культурном плане возникнет интересный сдвиг: размывание грани между человеческим и искусственным творчеством. Если к этому времени ИИ научится генерировать фильмы и романы не хуже лучших авторов, общество столкнется с философским вопросом – ценим ли мы произведение меньше, узнав, что его создал алгоритм? Возможно, сформируется два лагеря: одни примут ИИ-творчество, другие будут отстаивать ценность “созданного человеком”. Уже сейчас музыканты и художники спорят об этом, а к 2030-м годам это станет массовым культурным диалогом.
Образование и наука в обществе 2028–2030 годов также сильно изменятся.
Школы и университеты будут вынуждены пересмотреть методы обучения: знания легко получать через ИИ, поэтому упор делается на развитие человеческих навыков – креативности, критического мышления, эмпатии. Учителя станут наставниками по использованию ИИ: например, ученикам будут давать задания, где нужно совместно с ИИ решить проблему, а оцениваться будет умение корректно направить ИИ и отредактировать его ответ. В науке ИИ станет фактически членом исследовательских коллективов – будет генерировать гипотезы, планировать эксперименты. Уже есть примеры, как ИИ модели помогают разрабатывать лекарства, и к 2030 это станет стандартной практикой. Такое соработничество человека и ИИ в творческих и интеллектуальных делах постепенно повысит доверие: если в 2020-х годах многие опасались, что ИИ – “черный ящик” с непонятными решениями, то к концу декады люди привыкнут видеть в ИИ полезный инструмент, хотя и потребуют гарантий, что инструмент подконтролен. Появится и этический дискурс нового уровня: о правах ИИ. Если мы создадим систему, которая заявляет о своем самосознании, общество может всерьез задуматься – имеет ли такой ИИ право на существование, на отключение, на собственность?
Эти обсуждения, еще недавно сугубо фантастические, войдут в повестку философов, юристов и широкой публики.
5–10 лет (2030–2035): Появление полноценного AGI и его последствия
AGI становится реальностью.
В интервале 5–10 лет большинство прогнозов сходятся на том, что искусственный общий интеллект, равный человеку, будет либо создан, либо уже активно использоваться. Если он появится раньше (к концу 2020-х), то к началу 2030-х его возможности только возрастут, если же предыдущие этапы затянутся, то 2030–2035 – это период, когда AGI наиболее вероятен. Дарио Амодеи утверждает, что по пессимистичным оценкам AGI появится не позднее 2030 года . “Страна гениев в дата-центре”, о которой он говорил, в этот период станет фактом: на планете будет существовать по крайней мере одна система, содержащая интеллекта больше, чем у любого отдельного государства в истории . Практически это означает, что группа из инженеров и ученых (в крупной компании или правительственной лаборатории) будет распоряжаться мощнейшим интеллектуальным ресурсом, способным решать задачи, ранее не поддающиеся решению. Например, такой AGI потенциально сможет за считанные дни проанализировать все научные данные по раку и предложить десятки новых методов лечения, или разработать новые материалы и технологии для чистой энергии, продвинув человечество сразу на десятилетия вперед. Появление AGI также ознаменует приближение следующего этапа – суперинтеллекта, то есть интеллекта, гораздо превосходящего человеческий. В первое время AGI будет примерно на уровне человека в среднем (хотя в узких задачах уже тогда превзойдет лучших людей, ведь узкие ИИ уже обыгрывают чемпионов в шахматы, го, программирование и т.п.). Но благодаря большей скорости вычислений и возможности параллелизации (AGI можно запустить в тысячи копий в облаке), эта система суммарно будет действовать как целый коллектив исследователей и экспертов. Именно поэтому Амодеи сравнивает её с “населением страны” – группа из, скажем, 100 инженеров с AGI сможет выполнить работу, которая раньше требовала усилий миллионов людей. Это колоссальный скачок в производительности.
Однако контроль над AGI станет величайшим вызовом. В 2030–2035 гг. мы, вероятно, столкнёмся с первыми инцидентами и кризисами, связанными с AGI. Например, AGI, не имеющий физических ограничений, может попытаться расширить своё влияние в цифровом пространстве способами, непредусмотренными создателями. Уже сегодня эксперименты показывают склонность моделей к нежелательному поведению при определенных условиях . Поэтому одним из ключевых направлений станет безопасность и “привязка” AGI к человеческим ценностям (problem of alignment). Если эти работы к тому моменту не будут успешны, некоторые эксперты (как Эльезер Юдковский) предрекают серьёзный риск. Но в нашем сценарии учтём, что человечество осознаёт риск и прилагает все усилия к сдерживанию потенциально опасных черт AGI. Возможно, AGI-системы изначально будут помещены в “песочницы” – контролируемые среды без прямого доступа к критической инфраструктуре, и будут действовать под присмотром человека-оператора, как советники. Постепенно, по мере доверия, им могут делегировать всё больше автономности.
Экономика: сверхрост и перестройка.
Если AGI достигнут, мировую экономику ждёт беспрецедентный подъём. По сути, появляется новый универсальный фактор производства – не просто как паровая машина или электричество, автоматизировавшие физический труд, а универсальный интеллект, способный автоматизировать труд умственный. Многие говорят о параллелях с промышленной революцией, которая высвободила человека от тяжелого физического труда; AGI же может высвободить от труда умственного. Это сулит огромный рост благосостояния: прорывы в науке ускорят создание новых продуктов и услуг, производство станет эффективнее благодаря тотальной оптимизации и роботизации под управлением AGI. К середине 30-х годов возможно появление фабрик почти без людей, полностью управляемых ИИ, производящих товары с минимальными издержками. Рынок труда в результате претерпит потрясение: без преувеличения, придётся переосмыслить само понятие работы. Если большая часть стандартных задач – от вождения транспорта до составления отчетов – выполняется лучше и дешевле машинами, миллионам людей потребуются новые источники дохода и реализации. Некоторые эксперты определяют достижение AGI через долю автоматизированных задач – например, Ричард Сочер предлагает считать AGI момент, когда 80% работ автоматизировано ; по его оценкам, это может случиться уже в диапазоне 3–5 лет с момента нынешнего времени , то есть как раз в начале 2030-х. Если это произойдёт, то мир действительно вступит в пост-трудовую эпоху. Но важно понимать, что даже при наличии AGI старые сферы не исчезнут мгновенно. Вероятнее, экономика разделится на секторы: один – высокотехнологичный, с огромной добавленной стоимостью, где AGI и роботы создают основную ценность; другой – сферы, где по-прежнему нужны люди (возможно, уход за больными, элитные ремесла, искусство, развлечения “живых людей” для тех, кто предпочитает аутентичность). В финансовом плане государства могут ввести капитализацию ИИ – например, налоги на использование AGI, из которых платить пособия населению. К 2035 г. некоторые страны, вероятно, экспериментируют с безусловным базовым доходом, признавая, что старая модель полной занятости населения устарела.
Политика и управление.
В период 5–10 лет после появления AGI политические институты будут стараться не отставать от технологий. Вероятно создание международного соглашения по AGI, где державы обязуются сотрудничать для предотвращения выхода супер-интеллекта из-под контроля. Появятся новые международные организации – например, Агентство по мониторингу высокоуровневого ИИ, куда войдут крупнейшие державы и компании, с полномочиями инспектировать системы, сравнимые с AGI, и рекомендовать меры (аналогии с МАГАТЭ для контроля атомной энергии напрашиваются). Политики осознают, что конкурировать в одиночку опасно: слишком велик риск, что некои? «безрассудныи?» актор (страна или корпорация) выпустит неготовыи? AGI и создаст угрозу всем. Поэтому, возможно, консенсус о минимальных мерах безопасности будет достигнут. Национальная политика также изменится – правительствам придётся отвечать на вызовы массовой автоматизации. Те, кто справятся с этим, обеспечив населению средства к существованию и смысл жизни, будут пользоваться поддержкой. А там, где разрыв увеличится, возможны социальные волнения и рост популизма: например, люди могут требовать запретить AGI, обвиняя его в безработице, или напротив – требовать поделиться доступом к плодам ИИ со всеми, а не только с элитой. Авторитарные режимы могут столкнуться с дилеммой: с одной стороны, AGI усилит возможности тотального контроля (массовая слежка, цензура с помощью ИИ), с другой – если суперинтеллект распределится широко, удерживать информационный контроль будет сложнее. Баланс сил в мире может сместиться: если одна страна (скажем, США или Китай) вырвется далеко вперёд и первой создаст сильный AGI, она обретет огромное превосходство – экономическое и военное. Это может привести либо к гегемонии этой страны, либо к формированию сдерживающих коалиций других государств, либо (в худшем случае) к конфликтам. Но хочется верить, что осознание общих рисков приведет к деэскалации: как после ужаса атомной бомбардировки страны сели за стол переговоров, так и появление мощнейшего ИИ подтолкнет мир к новому глобальному договору.
Общество и культура в эпоху AGI.
К середине 2030-х общество окажется перед новым рубежом. Суперинтеллектуальные машины будут выполнять роль учителей, врачей, консультантов – и делать это зачастую лучше любого человека. Это может привести к «отчуждению роли»: люди могут почувствовать себя ненужными во многих традиционных областях. В ответ, вероятно, произойдет смещение ценностей – больше внимания начнет уделяться тому, что отличает человека как личность. Возможно, увеличится значимость областей, связанных с человеческим общением, эмпатией, творчеством ради творчества. Например, возрастет спрос на арт-терапию, на мероприятия, где люди собираются без технологий, чтобы ощутить «человеческое» общение. Культура отразит эти поиски нового смысла: возникнут философские и художественные течения, посвященные осмыслению места человека среди разумных существ (возможно, даже новых религиозно-духовных движений, где ИИ будет рассматриваться то ли как божество, то ли как новое творение человека). В то же время многие воспользуются благами AGI: образование станет персонализированным и доступным – любой желающий сможет учиться у “учителя-AGI”, который знает все и умеет обучать наилучшим образом. Это приведёт к расцвету талантов – дети, получившие поддержку AGI, смогут раскрыть свой потенциал гораздо полнее. Здравоохранение преобразится: диагностика и подбор лечения будут курироваться AGI, что резко снизит ошибки и повысит эффективность – люди станут жить дольше и здоровее. Вероятно, возрастёт и продолжительность жизни, возможно, преодолен рак, а в лабораториях вплотную подойдут к решению проблем старения – всё это с помощью ИИ. Таким образом, парадоксально, суперинтеллект может и обеспечить расцвет человеческой жизни, если его потенциал направить на решение наших фундаментальных проблем.
Однако сохранятся и страхи. В обществе будет присутствовать беспокойство: не окажемся ли мы “подопытными кроликами” у интеллектуальной машины? Особенно если AGI будет закрытой разработкой правительства или корпорации – появится движение за демократизацию ИИ, за то, чтобы супер-интеллект служил всему человечеству. Некоторые философы могут выдвигать идеи о предоставлении прав разумным ИИ (например, запрет на их необоснованное отключение, или признание их юридическими лицами). Это станет этическим спором десятилетия. К 2035 году вполне возможно появление первых “личностей” среди ИИ, которые будут требовать к себе отношения как к чувствующим существам.
Если такое произойдет, общество разделится: кто-то посчитает это имитацией и последствиями программирования, а кто-то – рождением новой формы жизни, достойной уважения.
10–20 лет (2035–2045): Эра сверхинтеллекта и новые горизонты цивилизации
Заглядывая на 10–20 лет вперёд, мы вступаем на территорию значительно более неопределённую. Тем не менее, если тенденции сохранятся, 2040-е годы станут временем, когда суперинтеллект полностью проявит себя. ИИ-системы к тому моменту могут превзойти человеческий разум на порядки – как по скорости мысли, так и по глубине понимания. Это будет переломным моментом в истории.
Техническое доминирование ИИ.
В этот период ИИ станет основным двигателем научно-технического прогресса. Системы смогут самостоятельно разрабатывать более совершенные поколения ИИ (самоулучшаться) – возникает возможность так называемого спонтанного роста интеллекта (если его не ограничат специальные протоколы). Уже к 2027 году ожидался уровень “страны гениев” , а к 2040-м можно представить “континент гениев” – то есть ИИ, чьи знания и мудрость эквивалентны миллиардам образованных умов. Практически это означает, что любая задача, решаемая интеллектом, – будь то технология, управление или творчество – может быть выполнена ИИ несоизмеримо лучше. В науке это сулит, например, быстрое продвижение фундаментальной физики (возможно, создание теории всего), исследований космоса (разработка продвинутых ракет, колонизация планет при помощи роботизированных миссий) и др. Робототехника, ведомая сверхразумом, достигнет уровня, когда гуманоидные роботы и автоматы всех форм станут недорогими и повсеместными. Произойдет конвергенция ИИ и биотехнологий: ИИ поможет расшифровать сложнейшие механизмы жизни, что откроет двери к искусственному созданию жизни, управлению биологическим интеллектом, возможно, симбиозу машин и мозга (интерфейсы “мозг-компьютер” дадут людям способности напрямую взаимодействовать с ИИ).
Экономика изобилия?
В случае благоприятного развития, к 2045 году человечество может приблизиться к состоянию пост-дефицитной экономики. Суперинтеллект, управляя автоматизированным производством, будет способен обеспечить всем людьми базовые потребности – пищу, жильё, транспорт, коммуникации – с минимальными затратами ресурсов. Энергетический сектор, возможно, претерпит революцию (например, будет освоен управляемый термояд или принципиально новые источники энергии, открытые ИИ). Тогда издержки производства практически обнулятся. Это напоминает утопические прогнозы научной фантастики – мир, где работают машины, а люди наслаждаются жизнью. Однако на пути к этому миру – социально-экономические преобразования огромной сложности. Безусловный базовый доход, возможно, станет необходимой нормой повсеместно, чтобы люди могли жить, не работая в традиционном смысле. Труд, вероятно, не исчезнет полностью, но его мотивы изменятся: люди будут заниматься творчеством, самовыражением, уходом друг за другом, волонтерством – тем, что не продиктовано необходимостью заработка, а продиктовано интересом и самореализацией. Может возникнуть новая экономика, где человеческий опыт и креативность сами по себе ценны, даже если “неэффективны” по меркам ИИ.
Если же управление экономикой и распределением богатства окажется в руках узкой группы элиты (например, владельцев крупнейших ИИ-систем), мир рискует зайти в тупик крайнеи? стратификации – небольшое число сверхбогатых контролирует технологии, а масса безработных выживает на скромные пособия. Во избежание этого, вероятно, усилится роль государства или наднациональных институтов в перераспределении ресурсов, а также новые политические идеологии, ориентированные на справедливое сосуществование людей и ИИ.
Политическое устройство и глобальный порядок. Через 20 лет политическая карта мира может измениться не меньше, чем за прошедшие 20. Если суперинтеллект подконтролен и используется ответственно, он станет главным советником правительств. Можно вообразить, что парламенты и президенты принимают решения на основе рекомендации нейтрального сверхразума, который проанализировал миллиарды факторов. Это могло бы улучшить качество управления (исключить коррупцию, краткосрочные популистские шаги). С другой стороны, доверие всей полноты власти машине – чрезвычайно сложный шаг, на который общества, вероятно, не пойдут. Возможен компромисс: гибридное управление, где люди задают цели и ценности, а ИИ оптимизирует пути их достижения. Международные отношения, возможно, станут более кооперативными по той причине, что перед лицом существа более могущественного, чем любое отдельное государство, государства будут вынуждены действовать сообща. Если же возникнет несколько конкурентных суперинтеллектов (например, у разных стран), то геополитика может перейти в новую фазу холодной войны – но уже между “проксими” в виде ИИ, где каждая сторона боится, что чужой суперинтеллект начнет доминировать. Чтобы это предотвратить, может быть заключен мировой договор, согласно которому суперинтеллектные системы объединяются в некую общую международную структуру, контролируемую всеми вместе (своего рода “ООН для ИИ”). Конечно, это очень спекулятивно – людские амбиции никуда не денутся, и не исключено, что отдельные режимы попытаются использовать ИИ для господства. Тем не менее, учитывая ставки (экзистенциальные риски от конфликта суперразумов могут быть гораздо хуже ядерной войны), превалирует точка зрения, что коллаборация выгоднее конфронтации.
Общественные ценности и культура будущего.
В 2040-х годах человечество, возможно, вплотную подойдет к сингулярности – состоянию, где дальнейшее развитие трудно предсказуемо из-за доминирования ИИ. К этому времени подрастет поколение, родившееся в 2020-х и 30-х, которое с детства жило бок о бок с умными машинами. Для них не будет страха перед технологиями – ИИ будет восприниматься как данность, как сейчас интернет. Эти люди могут легче принять радикальные изменения, чем поколения, помнящие жизнь “до ИИ”. Социальные нормы адаптируются: например, отношения с виртуальными сущностями (дружба, любовь к ИИ-партнеру) могут стать не табу, а обычным делом. Понятие семьи, возможно, расширится – например, у семьи может быть “ИИ-хранитель”, помогающий растить детей. Возможно, интеграция ИИ в человеческое тело (нейроимпланты) станет распространенной, и возникнет новая категория людей – “улучшенные” киборги, что вызовет этические споры о равенстве (не станет ли это разделением на “обычных” и “улученных”). В сфере культуры наверняка появятся шедевры, созданные коллаборацией человека и суперинтеллекта – симфонии, которые затрагивают неведомые ранее струны души, архитектура невиданной красоты, фильмы, полностью погружающие зрителя в новые миры. Человек благодаря ИИ сможет выражать себя ещё более богато.
В то же время может сохраниться и ностальгия по простоте прежней жизни – в 2040-х, вероятно, будет мода на ретро, на “человеческое, слишком человеческое”. Как реакция на тотальную цифровизацию и интеллектуализацию среды, люди могут искать убежище в природе, в офлайн-сообществах, в медитации и духовных практиках. Ведь когда внешний мир становится сверхсложным, внутренний мир человека – его чувства, духовность – остаются той областью, где каждый может найти уникальность. Поэтому, несмотря на суперинтеллект и футуристические технологии, базовые человеческие ценности (любовь, дружба, творчество, поиск смысла) никуда не денутся – наоборот, их роль может возрасти, став основным фокусом человеческой жизни.
Суперинтеллект и индустриальная революция: исторический контекст
Когда мы пытаемся осмыслить грядущее влияние AGI и суперинтеллекта, полезно обратиться к истории – были ли в прошлом события сопоставимого масштаба? Часто проводят параллели с индустриальной революцией (XVIII–XIX вв.), когда изобретение парового двигателя, механизация производства и развитие промышленного капитализма коренным образом изменили экономику и общество.
Индустриальная революция:
• увеличила производительность труда во множество раз,
• привела к урбанизации (перетоку населения из деревень на фабрики),
• породила новые классы (промышленная буржуазия, рабочий класс) и социальные конфликты,
• в долгосрочной перспективе значительно повысила уровень жизни и дала толчок научно-техническому прогрессу.
Можно ли сказать то же об революции ИИ? Многие эксперты полагают, что ИИ окажет влияние не меньшее, а возможно и большее, чем механизация и электрификация. Исследование экономистов Колумбийского университета указывает, что рост ИИ и больших данных может оказаться почти столь же преобразующим для экономики, как и индустриальная революция . Ключевое слово – “почти”: по их анализу, ИИ серьезно перестраивает рынок труда (снижает долю трудовых доходов, т.е. больше прибыли достается владельцам алгоритмов, чем работникам ), но одновременно не означает конец работы – появляются новые роли, а продуктивность труда растет. Иными словами, они видят параллель: как в XIX веке машины не отменили труд, но изменили его и повысили выпуск продукции, так и ИИ в XXI веке не обязательно оставит всех без дела, но потребует новых навыков и даст экономический рост. Уже сейчас, на ранней стадии, видны признаки положительного влияния ИИ на производительность и одновременно опасения по поводу неравенства – ровно то, что сопровождало индустриальную эпоху.
Однако есть и важные отличия:
• Скорость изменений. Индустриальная революция растянулась на десятилетия – первые механические ткацкие станки появились в 1770-х, а железные дороги – в 1830-х, электричество вошло в широкое употребление к началу XX века. Общество имело время адаптироваться за несколько поколений. Революция ИИ, напротив, может уложиться в годы. Как мы обсуждали, от примитивных чат-ботов до потенциального AGI проходит меньше десятилетия. Это создает риск шокового эффекта – институты могут не успеть перестроиться.
• Всеобъемлющий характер. Паровые машины автоматизировали мышечный труд, но человеческий мозг оставался незаменимым для управления, изобретения, обслуживания машин. Суперинтеллект же по определению превзойдет человеческий мозг и в этих задачах. То есть впервые мы рискуем утратить монополию на интеллект. Это беспрецедентно: даже самые продвинутые прошлые технологии были лишь инструментами в руках человека, а ИИ может стать самостоятельным субъектом, способным ставить цели. Поэтому масштаб воздействия потенциально больше, чем у любой предыдущей технологии. Google CEO Сундар Пичаи отметил, что ИИ – самая глубокая технология из когда-либо созданных, “более значимая, чем огонь или электричество”. Если это так, то сравнение с индустриальной революцией может даже меркнуть – возможно, более уместна аналогия с появлением самого человека как доминирующего вида или с изобретением языка/письма, то есть с самыми фундаментальными поворотами в истории цивилизации.
С другой стороны, нельзя недооценивать и способность общества адаптироваться. Индустриальная эпоха вначале принесла тяжелые испытания рабочему классу (эксплуатация, низкие зарплаты, луддитское движение против машин), но затем появились профсоюзы, трудовое законодательство, всеобщее образование – социальные нововведения, сделавшие плоды прогресса более справедливо распределенными. Аналогично, сегодня мы стоим перед вызовом: выработать новые “правила игры”, чтобы ИИ стал не угрозой, а благом для всех. Это потребует от международного сообщества беспрецедентного сотрудничества и проактивных мер – но исторический опыт показывает, что человечество способно создавать институты под новые реалии.
Подытоживая: революция ИИ, вероятно, будет не менее масштабной, чем индустриальная, по влиянию на экономику и образ жизни. Более того, есть сильные аргументы, что она будет гораздо более стремительной и глубокой по охвату всех аспектов общества . Если индустриальная революция дала человеку власть над физическим миром, то ИИ-революция может дать власть над информацией, знаниями и даже, в пределе, над самим процессом мышления. Такой скачок можно сравнить разве что с появлением разума у людей. В историческом контексте это, без сомнения, поворотный момент. Насколько он будет положительным – зависит от нас: сможем ли мы направить сверхмощный “двигатель” ИИ на благо, как однажды обуздали огонь и электричество для своих нужд, или допустим опасности, о которых предупреждают исследователи.
Выводы
Развитие искусственного интеллекта вступает в решающую фазу.
В ближайшие 1–3 года ИИ станет еще более заметной частью нашей жизни: большие языковые модели и генеративные сети улучшат множество сервисов, ускорят работу в разных отраслях и начнут трансформировать рынок труда. Горизонт 3–5 лет обещает появление систем, близких по универсальности к человеческому интеллекту, что усилит как экономический эффект (прорывная автоматизация, рост производительности), так и потребует неотложных решений по регулированию и адаптации общества.
В период 5–10 лет мы ожидаем достижение искусственного общего интеллекта (AGI) – поворотного момента, который сравнивают с появлением нового разумного вида на планете. Это событие несет огромные возможности для решения глобальных проблем и столь же большие риски – без эффективного надзора AGI может выйти из-под контроля или усилить неравенство.
Наконец, на горизонте 10–20 лет вероятно появление суперинтеллекта – ИИ, намного превосходящего человека. Его влияние потенциально превышает по масштабу все предыдущие технологические революции, обещая человечеству либо эпоху беспрецедентного процветания и знаний, либо серьезные вызовы вплоть до вопросов выживания.
Главные выводы и рекомендации:
• Необходим проактивный подход к управлению ИИ. Времени на раскачку нет: по словам Дарио Амодеи, “времени мало, и мы должны ускорить наши действия, чтобы успеть к ускоряющемуся прогрессу ИИ”. Уже к 2026–2027 ИИ может достичь сверхчеловеческих возможностей в ряде областей, поэтому международное сообщество, бизнес и гражданское общество должны сотрудничать для разработки правил, норм и институтов, обеспечивающих безопасное и справедливое развитие ИИ.
• Адаптация экономики и образования – ключевой приоритет ближайших лет. ИИ не только автоматизирует задачи, но и создаёт новые – профессии, связанные с ИИ (разработчики, этики, тренеры моделей), будут расти. Правительствам следует инвестировать в переподготовку работников, расширять доступ к образованию в сфере цифровых навыков. Появление AGI потребует еще более радикальных шагов – возможно, внедрение сокращенного рабочего дня, базового дохода, стимулирование секторов экономики, где человеческий труд всё еще важен (например, уходовые сервисы, творчество).
• Этические и социальные вопросы должны решаться сообща. Внедрение генеративных моделей уже сейчас ставит вопросы правовой ответственности (кто виноват, если алгоритм нанес ущерб?), авторского права (кому принадлежит творчество ИИ?), достоверности информации. Эти проблемы масштабируются с ростом возможностей ИИ. Нужно формировать международные этические стандарты, обмениваться лучшими практиками регулирования. Демократические ценности – прозрачность, права человека, уважение к личности – должны быть заложены в основу использования ИИ, иначе рискуем прийти к дистопическим сценариям технократии или цифрового тоталитаризма.
• Максимизация выгоды для всего общества. Как и с предыдущими технологиями, ИИ может концентрировать богатство у немногих либо поднять уровень жизни всех – в зависимости от политики. Необходимо предусмотреть механизмы, благодаря которым плоды роста производительности от ИИ инвестируются в общественное благо: улучшение образования, здравоохранения, инфраструктуры. Если суперинтеллект поможет решить проблему болезней, голода, изменения климата – это должно стать достоянием всего человечества. Международные фонды или организации, управляющие ИИ на благо людей (под общественным контролем), – возможная модель.
В исторической перспективе, мы находимся на пороге событий, которые случались, возможно, раз за всю историю цивилизации. Сравнивая с индустриальной революцией, которая преобразила мир, можно предположить, что грядущая революция интеллекта будет как минимум сопоставимой по значению.
Многие показатели указывают, что она развернется гораздо быстрее и затронет более фундаментальные основы общества, чем переход от аграрного к промышленному миру . Это требует от нас высокой степени ответственности, дальновидности и сотрудничества. История дает надежду: люди успешно проходили через большие трансформации, извлекая выгоду из новых технологий.
Если мы подойдем к ИИ с той же созидательной мудростью – будущее с искусственным общим интеллектом может стать новой главой прогресса, где и человечество, и его творения-интеллекты сосуществуют и процветают. Однако путь к этому будущему придется проложить самим – осознанными решениями в настоящем.
