Машина учится быть человеком
Искусственный интеллект расширяет свое присутствие во всех областях человеческой жизни. Сейчас это наиболее динамично развивающееся направление IT. Вместе с тем у многих возникает вопрос: насколько стоит доверять ИИ и можно ли его контролировать? Об этом, а также о том, почему сильный ИИ труднопредсказуем и какие задачи перед ним ставят в Томском государственном университете, корреспонденту газеты Alma Mater рассказал доцент факультета инновационных технологий Дмитрий Шашев.
НЕ КОМПЬЮТЕР И НЕ ЧЕЛОВЕК
– Дмитрий, давайте для начала определимся с терминологией, поскольку понимание ИИ встречается очень разное. Скажите, равен ли искусственный интеллект понятию нейросеть и каковы его основные признаки?
– На мой взгляд, искусственный интеллект – это своего рода набор технологий, который позволяет в какой-то степени приблизиться искусственно либо имитационно к деятельности человеческого мозга и всех органов чувств в связке с этим мозгом. Что касается тождества понятий ИИ и нейросеть: нейронные сети – это всего лишь один из алгоритмических и математических инструментов, благодаря которым создается технология искусственного интеллекта. Это очень крупное междисциплинарное направление, которое развивается на стыке математики, IT, биологии, механики и робототехники и ряда гуманитарных наук – психологии, социологии, поскольку мы хотим искусственный интеллект использовать в жизни рядом с людьми.
– В связи с этим вопрос, которым задаются многие: насколько контролируем и безопасен ИИ для человека?
– Действительно, вопрос, который не может не возникать. Все знают эту страшилку из фильма про терминатора, когда искусственный интеллект решил, что человек – это плохо. Причем, там не было борьбы глобально между людьми и машинами, а просто ИИ осознал, что человек приносит вред планете, создает кучу проблем, является враждебным и так далее. Для машины, которая оперирует фактами, эти «признаки» являются командой для устранения источника проблем, поэтому искусственный интеллект, безусловно, должен быть регулируемым.
– Насколько он является регулируемым в данный момент? Есть специалисты, которые говорят, что не всегда возможно просчитать, что получится на выходе.
– Если говорить о регуляции на законодательном уровне, то пока регламент крайне ограниченный. Создаются всевозможные ассоциации, в том числе международные, которые разрабатывают стандарты применения, но в настоящее время большинство из них, скорее, рекомендации, чем законы. Наверное, многие помнят новость о том, что весной 2023 года крупнейшие IT-компании выступали за то, чтобы хотя бы на полгода приостановить обучение систем ИИ мощнее ChatGPT4, чтобы за это время разработать соответствующие протоколы безопасности. По данным на конец 2023 года было проработано несколько международных инициатив в Китае, ЕС и США, которые регулируют применение и разработку ИИ. Но опять же, серьезной законодательной базы в этой области пока нет.
ДОВЕРЯЙ, НО ПРОВЕРЯЙ
– Если говорить не о регулировании, а о контроле со стороны человека, насколько разработчики искусственного интеллекта могут контролировать продукт, который сгенерирует ИИ?
– Это зависит от типа искусственного интеллекта. Есть слабый ИИ, сильный и так называемый доверенный. Сейчас по большей части внедряется слабый ИИ, алгоритмы которого можно проверить, провести тесты, «прозрачные» для человека, поэтому он безопасен. Есть сильный искусственный интеллект, сегодня близкими к нему являются большие языковые модели. Это такая большая мощная универсальная машина, которая благодаря одной ёмкой технологии может решать большое количество различных задач.
Дмитрий Шашев на соревнованиях по управлению и пилотированию БАС «Летай в ТГУ
Возьмем, к примеру, логистику и ее принципы – коридоры, маршруты и так далее. Есть алгоритмы, которые решают конкретную задачу: доставить груз из точки А в точку Б и, может быть, спрогнозировать финансовые расходы. А есть алгоритмы и системы, которые решают много задач, от поиска поставщика в зависимости от суммы – где будет дешевле, быстрее и так далее, причем в режиме реального времени с учетом текущих изменений и новых данных. И всё это «крутится» в одном едином алгоритме. На основании большого массива данных, которые в него поступают, он может делать параллельно аналитику, строить прогнозы, учитывать многие другие стороны, которые касаются этой отрасли. То есть это такая полноценная и умная машина, которая решает огромное количество задач в нужном направлении.
Одна из составляющих сильного ИИ – это постоянное дообучение, как у человека. Если мы говорим о сильном ИИ, то в идеале он, как ребенок, с момента своего появления должен непрерывно обучаться, усваивать новую информацию, учиться делать из нее выводы и использовать это в дальнейшем.
– В каких областях внедряется сильный ИИ?
– Пока ни в каких. Во-первых, потому что его еще полноценно не реализовали, во-вторых – просчитать, какой результат сгенерирует, например, большая языковая модель, нет возможности. Точнее, такая возможность есть, но на это уйдет огромное количество времени и нужны очень серьезные вычислительные мощности. То есть речь идет о банальном доверии к технологии.
– А что представляет собой доверенный ИИ?
– Это та модель, которая прошла ряд тестов, испытаний, убеждающих человека, с вероятностью 99,9%, что она будет работать так, как должна, а если что-то пойдет не так, то внутри нее заложен механизм, страхующий от ошибок. Не говоря уже о вопросах кибербезопасности, которые также должны быть закрыты в технологии.
Понятие доверенного искусственного интеллекта очень остро стоит в применении как раз нейросетевых технологий. Для меня это направление внутри ИИ. Большие нейронные сети, которые позволяют эффективно решать сложные задачи, например, как ChatGPT, который взорвал умы и рынок, – это огромные сети и математические модели, которые для человека пока являются «черным ящиком». Мы не знаем, что происходит внутри. Мы это понимаем, но проследить пошагово алгоритм работы не можем. Там миллиарды связей, миллиарды переменных, это порой «крутится» на куче распределенных вычислительных кластеров. Человек не может проверить работу такой машины сотни и тысячи раз, чтобы проследить, по какому предсказуемому алгоритму все движется.
К примеру, один из лидеров в области ИИ Яндекс развивает искусственный интеллект как минимум 10 последних лет, но по городу их беспилотные автомобили пока не ездят. Проблема все так же заключается в возможности проверки. Тысячу раз модель решит задачу так, как нам нужно, а на 1001-й раз произойдет какой-то сбой и, возможно, ее решение будет не совсем «гуманно» по отношению к задаче или к человеку. То есть большие возможности, например, сильного ИИ ;являются и причиной его ограничения для конкретных приложений. А в нейросетевых инструментах, которые выполняют простые задачи, тестирование можно проводить сколько угодно и простыми инструментами, в том числе с осуществлением оперативного контроля.
– Получается, что в ближайшее время мы не увидим внедрения сильного ИИ на практике?
– Развитие в этом направлении идет. Для проверки различных моделей ИИ строятся целые полигоны. Например, есть полигоны для БАС (беспилотных авиационных систем). А на трассе Москва-Санкт-Петербург отрабатывают перевозки на беспилотном КАМАЗе. Пусть в перечисленных случаях большие модели ИИ пока не применяются, но наука и техника не стоят на месте, поэтому, думаю, что внедрение таковых мы увидим.
Сейчас есть другая техническая задача, которую нужно решать, – это оптимизация вычислительных ресурсов под потребности ИИ. Условно говоря, в автомобиль суперкомпьютер не воткнешь, чтобы на нем работала какая-то, например, большая языковая модель. То есть сейчас нужно уменьшить ресурсные потребности ИИ (как минимум, вычислительные) без потери его эффективности, чтобы его работу можно было реализовывать на менее требовательных компьютерах.
ИНТЕЛЛЕКТ ДЛЯ БЕСПИЛОТНИКА
– Дмитрий, для ученых ТГУ развитие ИИ является одним из приоритетных направлений. Расскажите, чем занимаются сотрудники ФИТ? Чему вы пытаетесь научить ИИ?
– Мы разрабатываем интеллектуальные надстройки для БАС, применяемых в гражданских сферах, например, в качестве курьера (задача «последней мили») или в агропромышленном секторе, где беспилотник должен решать задачи точного земледелия. Основная цель – за счет алгоритмов и технологий ИИ добиться полной автономности беспилотника при выполнении задач. То есть дрон без привязки к внешним серверам, только благодаря тому «мозгу», что располагается на борту, понимает, где он находится, как ему двигаться, чтобы не причинить вред себе, другим, и выполнить задачу.
Учёные ФИТ ТГУ разрабатывают интеллектуальные надстройки для БАС
Второе направление, в котором мы постепенно двигаемся, – это технологии группового управления беспилотниками, или роевое управление. В этом направлении ИИ может дать очень хороший результат, но пока есть много вопросов и нерешенных задач. Даже в управлении одним БАС, например, для доставки товаров, есть разные риски – от утраты товара до вреда человеку. Если же мы говорим о группе – рое беспилотников, о роевом управлении, то здесь всё ещё намного сложнее. Представьте, есть группа однотипных объектов, которые действуют децентрализовано при выполнении задачи, у них нет иерархии в виде лидера и ведомых.
На всю группу, скажем, из 30 летательных аппаратов, одна задача. Беспилотники должны распределить роли и выполнить ее – например, обследовать территорию, составить карту рельефа местности либо 3D-объекта и так далее. Если такую задачу поручить одному БАС, это слишком ресурсозатратно, нужно много ресурсов нести на борту, к тому же потребуется очень много вылетов. Условно, обследование здания какого-нибудь завода или другого сложного объекта, например, ледника, займет месяц, а рой беспилотников выполнит это за день. Для нас это одно из приоритетных направлений и своего рода вызов. Очевидно, что в будущем оно будет очень востребовано.
В начале года был открыт полигон БАС ТГУ с уникальной системой для проведения испытаний, который значительно расширяет наши исследовательские возможности. Внутри полигона установлена Motion capture system – это система из 34 камер по контуру помещения, которая определенным образом захватывает маяки на объекте и позволяет исследовать движение объекта с точность до одного миллиметра. С одной стороны, внутри помещения она заменяет GPS-навигацию, с другой – позволяет оценивать, например, насколько точно в группе беспилотники летят относительно друг друга, выполняя какую-то задачу, или насколько адекватно работает созданный алгоритм управления. Все мировые лидирующие лаборатории обладают такой системой и используют ее в целом в новых технологиях в сфере беспилотной авиации. По масштабу на текущий момент наш полигон один из самых больших закрытых полигонов в стране.
– Дмитрий, сейчас стране очень нужны специалисты, которые могут не только работать с ИИ, но и создавать новые алгоритмы. Как ФИТ вкладывается в решение этой задачи?
– С начала сентября у нас в рамках пилотного проекта по совершенствованию системы высшего образования в РФ стартуют две новые программы. Одна из них реализуется совместно с ФТФ и нацелена в большей степени на конструирование БАС и постановку инженерно-производственных компетенций, а вторая нацелена непосредственно на использование IT-технологий и технологий ИИ в БАС, на создание «мозга» для таких систем. Направление крайне интересное и перспективное, поэтому ребята, которые его выбрали, действительно будут создавать будущее.
Источник: news.tsu.ru
