Киберэкономика: как ИИ-агенты и децентрализация изменят экономику

Для усовершенствования системы ИИ нужна криптография, распределенные системы, машинное обучение и криптоэкономические сети. Это повышает конкуренцию, ускоряет инновации и делает ИИ более доступным, понятным и полезным. 

ИИ и автономные агенты дополняют человека и существующую экономику. Они расширяют возможности и повышают производительность. И именно сейчас необходимо найти ответы на несколько фундаментальных вопросов: 

• Как будет выглядеть мир после появления ИИ?
• Как сделать так, чтобы он оставался беспристрастным, не подвергался цензуре и не контролировался одним или очень немногими субъектами?
• Будет ли AGI одной гигантской моделью или сетью из миллиардов интеллектуальных агентов, предварительно обученных моделей, наборов данных и инструментов, созданных коллективно открытым сообществом разработчиков?
• Как обеспечить здоровую конкуренцию, инновации и безопасность в ИИ, которые приведут к процветанию и изобилию для всех?

Web3 + Software 3.0

Крис Диксон дал знаменитое определение Web3 как новой итерации интернета с возможностью для пользователей читать, писать и владеть цифровым контентом и активами.

Эволюция Интернета выглядит так:

• Web 1.0 состоял в основном из статичных веб-страниц, где пользователи были в основном потребителями контента.
• Web 2.0 ввел эру интерактивности, социальных сетей и пользовательского контента.
• Web 3 представляет собой следующую фазу развития интернета, в которой основное внимание уделяется децентрализации, конфиденциальности и суверенитету пользователей. Цель Web3 — предоставить пользователям контроль над их собственными данными, идентификацией и цифровыми активами.

Аналогичная эволюция происходит и в парадигмах программирования программного обеспечения. Традиционно разработка ПО — это написание программистами кода, управляющего поведением программы. Software 2.0 — термин, придуманный Андреем Карпаты из OpenAI и Tesla, — это подход, который стал возможен благодаря достижениям в области машинного обучения.

Теперь начинается эпоха Software 3.0, когда системы автономных агентов на базе ИИ смогут писать код, взаимодействовать с внешними инструментами, самосовершенствоваться и участвовать в цифровой экономике, взаимодействуя с пользователями-людьми и автономными агентами. Вот как выглядит эта эволюция:

• Software 1.0 создает детерминированный алгоритм, который может быть скомпилирован и запущен на любом компьютере. Пользователи запускают программу и получают предсказуемый результат.
• Software 2.0 принимает обучающие данные и создает предварительно обученную модель в виде весов нейронной сети. Пользователи могут вводить свои данные, например текст или изображения, в нейронную сеть и получать на выходе результат. Как правило, в виде распределения вероятностей.
• Software 3.0 представлено автономным агентом ИИ, который получает инструкции от пользователя в любой форме (например, естественный язык, голос, видео) и выполняет набор действий и решений для достижения желаемого результата. Такой агент может вызывать внешние API, писать и выполнять код, взаимодействовать с другими агентами и даже строить новые нейронные сети.

ИИ-агенты с Web3 — это следующая итерация в технологии сетевых и автономных систем, которая называется кибернетической экономикой. В будущем такие сети автономных агентов (а не просто отдельные модели) с экономическими возможностями сформируют AGI — ИИ, способный выполнять задачи как минимум не хуже человека.

Что такое автономные агенты

Один из самых интересных вариантов использования ИИ — автономные агенты. Их можно представить в виде множества персональных помощников, всегда готовых помочь. Автономный агент — это интеллектуальная система, способная достигать цели и принимать решения без явных указаний. Он также может самосовершенствоваться по ходу дела.

Большинство агентов сегодня — это простые скрипты, использующие цепочки LLM (с помощью таких библиотек, как LangChain, TaskWeaver и LlamaIndex) и внешние инструменты через вызов функций. Агенты производственного уровня в основном представляют собой ту же концепцию, но сильно оптимизированы с помощью эвристики, подсказок и данных дополненного поиска (RAG) для повышения надежности.

В будущем агенты получат больше автономности и надежности. Частично это произойдет благодаря усовершенствованию существующих ML-моделей.

Подписывайтесь на наш Telegram Подписаться

Кибернетическая экономика

По словам Ральфа Меркла, Биткоин — это первый пример новой формы жизни. С момента первой публикации в начале 2016 года появилось множество других форм.

Блокчейн — это программное обеспечение, которое производит ценную для человечества работу и платит людям, которые ее поддерживают. Стимулируя участие, блокчейн позволяет создать децентрализованную экосистему, где ответственность распределяется между сетью участников. Такой распределенный подход гарантирует, что система продолжит функционировать, даже если отдельные узлы или участники выйдут из сети.

«Любой, кто захочет создать свою собственную новую цифровую форму жизни, сможет это сделать. Как и биткоин, она будет жить в Интернете. Как и биткойн, она будет существовать до тех пор, пока будет делать что-то, за что люди будут платить».

Эта цитата из статьи Меркле относится не только к блокчейнам, используемым в основном в финансовой сфере, но и к автономным агентам.

Подобным образом автономный агент выполняет ценную работу для людей, получает вознаграждение за свои услуги и использует средства для приобретения ресурсов и/или расширения своих возможностей. Такой агент играет важную роль в оказании помощи людям и постоянно повышает свою эффективность за счет распределения ресурсов.

Децентрализованные агенты в киберэкономике

Открытый исходный код позволяет быстрее внедрять инновации, поскольку сотрудничество не ограничено организационными рамками и можно интегрировать в процесс разработки самые разные точки зрения и опыт.

Например, Ethereum стал самым композитным блокчейном среди всех: Optimism — это решение второго уровня, построенное поверх сети первого уровня Ethereum. На вершине Optimism находится контракт MakerDAO, который реализует стейблкоин DAI. Компания Aave использует DAI для создания своего рынка. Yearn Finance предлагает стратегии самостоятельного управления деньгами, использующие платформу Aave, которая опирается на DAI, который, в свою очередь, опирается на Optimism, который, в конечном счете, опирается на ETH. Все это происходит на базе, когда протоколу не нужен формальный контракт, чтобы использовать технологии друг друга, в отличие от традиционного финансового рынка.

Ожидается, что децентрализованные агенты превзойдут централизованных во многом по той же причине: они имеют доступ к широкому спектру постоянно совершенствующихся моделей, инструментов и навыков. У них есть идентификатор и кошелек, который позволяет им вступать в договорные отношения, например, покупать доступ к данным, соглашаться на выплату роялти в будущем или делиться доходами с разработчиками кода. Они могут оплачивать вычислительные ресурсы на открытом рынке.

Чтобы получить представление о том, как может выглядеть киберэкономика, представьте себе агента по созданию посадочных страниц:

• Агент получает плату в криптовалюте от компании, которой нужен новый веб-сайт.
• Агент делится частью своего дохода с другими протоколами, на которых он работает.
• Он использует предварительно обученную модель, которая децентрализована и доступна через подсеть 6 Bittensor.
• Модель работает на децентрализованной вычислительной сети, управляемой Akash.
• Агент имеет идентификатор, кошелек и репутацию. Таким образом, его можно обнаружить на торговой площадке с определенным показателем доверия.
• Агент может вызывать сторонние API для тестирования, запуска и развертывания кода.
• Он даже может платить людям за выполнение задач, требующих человеческого интеллекта, например, за решение CAPTCHA.

Пройдет несколько лет, и мы сможем ожидать появления сети, состоящей из агентов ИИ, способных создавать длинные цепочки взаимоотношений между агентами и людьми для выполнения нетривиальных задач.

Эта концепция может развиться только в открытой среде, бюрократические рабочие процессы будут мешать. В отличие от мира Web 2.0, где автономные агенты:

• должны создаваться компаниями, что требует времени и связано со значительными бюрократическими издержками;
• вынуждены полагаться на небольшое количество централизованных поставщиков моделей (Google или OpenAI);
• не предоставляют клиентам никаких гарантий конфиденциальности данных;
• блокируют данные клиентов в системе провайдера;
• требуют от клиентов подписываться на надоедливые планы повторяющихся платежей.

ИИ уже сегодня приносит прибыль в триллионы долларов, улучшая личную жизнь и бизнес-процессы. Он увеличивает темпы технологического прогресса и будет продолжать делать это в еще больших масштабах.

Большая часть внимания и капитала направлена на очень немногие компании, такие как OpenAI, Anthropic и Google. Однако есть предположения, что AGI появится не благодаря одной огромной модели, а скорее благодаря опыту миллиардов агентов ИИ, взаимодействующих с людьми и друг с другом и накапливающих «негласные знания» (как выразился Тайлер Коуэн), навыки и возможности реального мира.

В предыдущей статье изучили, как ИИ-агенты и децентрализация изменят экономику, а в этой рассмотрим риски и потенциальные проблемы, вызванные централизованным характером разработки ИИ.

Централизация власти

Представьте мир, где всего три модели ИИ контролируются тремя корпорациями или правительствами. LLM отражает политические взгляды своих создателей. Даже в открытых моделях мы не знаем, как они обучались и какие у них могут быть предубеждения.

Кроме того, централизованный доступ к API сопряжен с риском простоев или запрета со стороны поставщика API. Это может привести к тому, что бизнес или сервис, от которого вы зависите, окажется недоступным в самый неподходящий момент.

Централизация инфраструктуры

Сегодня инфраструктура, необходимая для создания моделей и приложений ИИ, находится в руках очень немногих специалистов. Цепочка поставок чипов для ИИ контролируется несколькими компаниями. Обучающие данные принадлежат IT-гигантам.

Блокировка данных

Популярные централизованные платформы с пользовательским контентом, такие как Reddit и Twitter, начинают блокировать доступ к пользовательским данным через API. Несмотря на то что контент создается и принадлежит пользователям, платформы решают, кто и как может получить к нему доступ.

Подписывайтесь на наш Telegram Подписаться

Регулирование

Захват регулирования в сфере ИИ создает риск снижения конкуренции и замедления инноваций. С одной стороны, корпорации руководствуются необходимостью максимизировать прибыль акционеров. С другой стороны, регуляторы слишком медленно реагируют и часто отстают от реального развития технологий на многие годы. В условиях постоянно ускоряющегося технологического прогресса традиционные подходы к регулированию просто не успевают за ним. Один крупный субъект не в состоянии адекватно создать условия для прогресса и самоорганизации рынка.

Управление моделями

В большинстве современных моделей очень мало людей решают, что попадает в обучающий набор для нее (следовательно, чему она на самом деле учится). Те же люди решают, что модели разрешено или не разрешено говорить. Это может привести к идеологическому манипулированию.

Конфиденциальность и контроль

Поскольку люди доверяют искусственному интеллекту все больше конфиденциальных данных о себе и своем бизнесе, они не хотят, чтобы все эти данные оказались в едином центре обработки данных. ИИ-друг, тренер, врач и бухгалтер в совокупности будут знать вас лучше, чем кто-либо другой. Поэтому ценность защиты этих данных будет только расти.

Ресурсы и темпы инноваций

Открытый исходный код, свободный от корпоративного или государственного контроля, стимулировал значительные технические инновации в течение последних нескольких десятилетий. Однако разработка ИИ требует значительных капиталовложений. Для обучения моделей с 200 млрд параметров требуются тысячи графических процессоров.

Одноранговая экономика (P2P) предлагает решение, ускоряя конкуренцию и проверку идей. На открытом рынке и в формате открытого исходного кода люди могут быстрее формулировать и проверять гипотезы, получать обратную связь и доступ к ресурсам для наиболее перспективных идей.

Проблема безопасности ИИ

Конфликт между Илоном Маском и OpenAI пролил свет на мысли основателей компании о безопасности ИИ и проблеме ИИ с открытым исходным кодом.

Неофициальным девизом Google на протяжении нескольких десятилетий была фраза «Не будь злом». Этот моральный принцип предполагает, что внутренние команды будут принимать правильные решения, но по мере того, как стартап превращался в корпорацию с триллионным оборотом, он терялся в непомерной бюрократии и несогласованных стимулах заинтересованных сторон.

В отличие от этого, биткоин стал пионером подхода «Не может быть злом». Это означает, что любой человек может свободно совершать любые транзакции в сети, но правила консенсуса запретят любые незаконные или злонамеренные действия без какого-либо централизованного контроля или бюрократических процедур.

Проблема безопасности ИИ остается нерешенной. Нет гарантий, что мощные централизованные игроки (корпорации или государства) сделают все возможное для обеспечения безопасности своих самых мощных моделей ИИ. На самом деле у них есть серьезные стимулы сохранить эти модели для себя, чтобы победить конкурентов. Но и в open-source могут быть разработчики, которые попытаются использовать мощный ИИ не по назначению или злоупотреблять им.

По сути, это проблема отрицательных внешних эффектов, также известная как проблема Молоха. Частично ее можно решить с помощью жесткого регулирования и контроля, но за счет всех рисков, описанных выше. Но гораздо более надежным подходом будет создание новых механизмов координации, использующих децентрализованную репутацию, криптографию и парадигму без доверия. Кроме того, важна радикальная прозрачность вместо лоббизма за закрытыми дверями.

В предыдущих частях мы изучили, как ИИ-агенты и децентрализация изменят экономику и чем экономике грозит централизованный ИИ. Теперь рассмотрим «строительные блоки» для создания децентрализованных сетей ИИ-агентов. 

Децентрализованные системы сложны в создании, но они гораздо более устойчивы к внешним событиям и атакам. Многие существующие децентрализованные системы называют криптоэкономикой, поскольку они опираются на такие основные компоненты:

• Криптография, которая обеспечивает подлинность, конфиденциальность и целостность данных, идентификации и вычислений.
• Программируемые экономические механизмы, которые эффективно объединяют и распределяют стимулы и координируют работу в одноранговой среде, в отличие от иерархического подхода централизованных организаций.
• Регулирование, включая согласование, гранты, управление проектами OSS (Open Source Software).

Подобно тому, как человеческая цивилизация развивалась не только благодаря индивидуальным интеллектуальным способностям, но и в результате создания социальных и экономических сетей, искусственный интеллект также выиграет от специализации и конкуренции.

Однако для удовлетворения потребностей этих новых кибернетических систем потребуется также создание (в идеале — децентрализованной) инфраструктуры:

Рассмотрим «строительные блоки» для создания децентрализованных сетей ИИ-агентов.

Открытый AGI

Предположительно, для настоящего AGI не будет единой основополагающей модели. Скорее, подобно человеческому мозгу и обществу, он будет состоять из множества специализированных систем, беспрепятственно работающих друг с другом. Чтобы достичь этого, нужен протокол. Как и в Bitcoin и Ethereum, он не должен принадлежать одной стороне. Как и в Web3, каждый может внести свой вклад: предварительное обучение новых моделей, тонкие настройки, предоставление наборов данных RAG, работа RLHF, оценочные бенчмарки.

Чем сложнее задача, тем важнее становится цепочка агентов. Одного промта будет недостаточно, если хотите, чтобы ИИ помог организовать большую конференцию. AutoGPT — забавный эксперимент, но он не может создать больше, чем просто правдоподобный журнал действий. Тысяча специализированных приложений, моделей, тщательно разработанных промтов, навыков агентов (таких как написание и выполнение кода) смогут сделать это: некоторые из них предназначены для планирования или маркетинговой деятельности, другие могут платить людям за работу и контролировать выполнение. Этот список можно продолжать, чтобы отразить и в конечном итоге автоматизировать все шаги.

Конфиденциальность и контроль

Поскольку мы все больше полагаемся на ИИ-агентов в жизни, обеспечение конфиденциальности данных и вычислений приобретает первостепенное значение. Последние достижения в области технологий позволили создать полностью приватный, децентрализованный и контролируемый пользователем стек ML.

• Zero-knowledge Machine Learning. Применение этого технологического инструмента дает ряд преимуществ, например, возможность делать выводы на закрытых данных или сделать модель машинного обучения общедоступной без раскрытия ее кода и весов. EZKL, Giza Tech и Modulus Labs разрабатывают такой стек машинного обучения. Сегодня zkML не масштабируется для запуска больших моделей, таких как трансформаторы, в формате zk, но даже более простые алгоритмы ML, такие как логистическая регрессия, дерево решений и метод случайного леса, могут значительно увеличить пространство проектирования для приложений.
• Конфиденциальные вычисления. Другой подход к достижению аналогичного уровня гарантий конфиденциальности, но с несколько более высокими предположениями о безопасности, может быть достигнут с помощью технологии доверенных сред выполнения. NVIDIA запустила поддержку конфиденциальных вычислений во всех своих продуктах H100 и планирует поддерживать эту технологию в будущем. Super Protocol тоже строит децентрализованную сеть для конфиденциальных вычислений.
• Хранение персональных данных и децентрализованные веб-узлы. Агентам искусственного интеллекта требуются как конфиденциальные вычисления, так и доступ к значительному количеству персональных данных. К ним относятся история общения, финансовая и юридическая информация, подробности личной жизни. Эти данные могут быть использованы для повышения общей точности моделей или служить долговременной памятью в виде RAG. Чтобы обеспечить конфиденциальность, не только вычисления, но и данные должны быть достаточно децентрализованы и контролироваться пользователем. Децентрализованные веб-узлы обеспечивают такую возможность. Одним из примеров приложения для пользователей с полностью приватным, но распределенным хранением данных является Kin.

Стимулы

Блокчейн — это система программируемых стимулов. Они позволяют строить программируемые сети распределения вознаграждений и увеличивают пространство проектирования механизмов. Эту технологию можно использовать для создания децентрализованных стимулов для исследований и разработок в ML.

Например, Bittensor — это одноранговая сеть для совместной работы над моделями машинного обучения и сервисами ИИ. Валидаторы отвечают за проверку работы майнеров и распределение вознаграждения между подсетями и отдельными майнерами. Сеть спроектирована таким образом, чтобы генерировать лучшее возможное решение задачи машинного обучения, определенной в коде подсети. Как майнеры, так и проверяющие получают равную долю вознаграждения, которое может достигать 150 000 долларов в день для каждого узла с лучшими показателями.

Подписывайтесь на наш Telegram Подписаться

Рынки

Децентрализованные сети отлично подходят для создания рыночных площадок с эффективной экономикой и простым участием — от финансовых рынков на базе Bitcoin и Ethereum до узкоспециализированных рынков, необходимых для агентской экономики будущего с искусственным интеллектом.

• Модели и тонкая настройка. В области создания открытых, стимулируемых и одноранговых рынков для моделей и тонких настроек нейронных сетей ведется активная работа в академических кругах, децентрализованных сетях, сообществе разработчиков открытого кода и облачных провайдеров.
• Данные. Они важны для искусственного интеллекта, поскольку необходимы для обучения и постоянного совершенствования этих систем. Децентрализация сбора, лицензирования, маркировки и продажи данных обеспечивает экономическую эффективность за счет передачи этих задач на аутсорсинг. Кроме того, это повышает качество данных, позволяя экспертам в конкретных областях собирать и курировать специализированные наборы данных, а не полагаться только на типовые компании, занимающиеся разработкой ИИ. Компания Ocean создала пространство рынка данных для покупки и продажи активов данных для разработчиков ИИ. Grass создает рынок для сбора данных и ETL с сотнями тысяч поставщиков данных. Sapien решает проблему маркировки данных с помощью краудсорсинга.
• Вычисления. Как и данные, вычисления являются неотъемлемой частью любой системы ИИ, поскольку они необходимы для обучения. В дополнение к традиционным облачным ML-провайдерам, таким как Lambda, Runpod и Replicate, наблюдается рост децентрализованных вычислительных сетей. Например, Akash — это открытая сеть, позволяющая пользователям покупать и продавать вычислительные ресурсы. Gensyn фокусируется на более специализированной работе по обучению моделей машинного обучения с помощью проверяемых вычислительных ресурсов.

Репутация 

Построить рыночные площадки как открытые сети непросто. Многие блокчейн-проекты и децентрализованные инициативы в области ИИ потерпели неудачу из-за неспособности найти равновесие. В децентрализованной сети любая возможность получить более высокую выплату за счет нечестного поведения будет немедленно использована участниками сети.

Платежи и связь

Чтобы ИИ мог представлять реальную экономику, необходим общий протокол для общения между агентами ИИ и протокол платежей. Такие сети, как Morpheus и Autonolas, выступают примерами обнаружения агентов и коммуникации между ними, а также децентрализованной среды исполнения для них. Nevermined разрабатывает платежный протокол, который будет способствовать развитию экономики ИИ, основанной на взаимодействии агентов с агентами.

Идентичность и аутентичность

Идентичность и подлинность становятся все более важными как для агентов ИИ, так и для реальных людей. В мире, где большая часть контента в сети генерируется ИИ, подлинность становится ценным ресурсом. Децентрализованные идентификаторы помогут решить проблему мошеннического или спамерского контента.

Маршрутизация

Для выполнения действительно полезных задач (например, организация конференции, съемка видео, обучение ребенка, подача заявления на получение вида на жительство или юридические действия) должен существовать эффективный алгоритм маршрутизации, который организует наиболее оптимальный ансамбль агентов. Для этого потребуется как минимум два децентрализованных компонента:

• скоринг или алгоритм оценки, который будет постоянно обновлять прогнозируемые потери модели, агента или инструмента в зависимости от конкретной задачи,
• механизм маршрутизации, который будет генерировать цепочку агентов, которые будут работать (иногда параллельно, иногда последовательно) для выполнения задачи.

Договор

В настоящее время ведется активная работа по созданию основ для формального заключения договоров в многоагентных системах. Цель — уменьшить сговор и негативные внешние эффекты, возникающие из-за отсутствия сотрудничества между независимыми системами ИИ.

Для виртуального агента гораздо естественнее использовать код и криптографические подписи, аналогичные традиционным правовым рамкам для людей, чтобы добиться большей эффективности и сотрудничества на рынке. Использование агентами контрактов будет способствовать улучшению социальных результатов киберэкономики в целом.

Управление

Последним компонентом децентрализованных систем ИИ является управление. Кто и как будет решать, что разрешено или не разрешено делать моделям и агентам? Кто владеет и руководит ими? Как происходит согласование и объяснение ИИ?

Децентрализованные автономные организации (DAO) исследуют новый рубеж программируемой демократии. Важно отметить, что речь идет не об одном проекте или фреймворке, а о целом пространстве проектирования, начиная с голосования, исполнения, управления капиталом и заканчивая целыми организациями, которые дополняются, расширяются и управляются ИИ.

Заключение

Появление искусственного интеллекта и автономных агентов представляет собой важный поворотный момент в эволюции человечества. Эти технологии способны переосмыслить жизнь общества в целом, что подчеркивает необходимость обеспечить доступ к ИИ в качестве фундаментального права для всех.

Однако нынешняя централизация владения и разработки ИИ создает серьезные риски, включая злоупотребление властью и замедление инноваций. Децентрализованный ИИ, напротив, представляет собой многообещающую альтернативу, способствующую развитию инноваций, собственности и контроля.Поддерживая развитие децентрализованного ИИ, можно обеспечить будущее, в котором ИИ будет приносить пользу всему человечеству.

Источник: www.computerra.ru

Источник