Семидесятипятилетний Джефри Хинтон покинул компанию «Гугл» и рассказал, что сожалеет о разработке технологии «искусственного интеллекта», у истоков которой он стоял
75-летний британский крестный отец искусственного интеллекта уходит из Google из-за опасений, что «пугающая» технология, пионером которой он стал, «скоро может стать умнее нас» — поскольку ученый становится последним экспертом, выступившим против опасностей искусственного интеллекта
«Крестный отец искусственного интеллекта» сенсационно уволился из Google и предупредил, что технология может перевернуть жизнь в том виде, в каком мы ее знаем.
75-летнему Джеффри Хинтону приписывают создание технологии, которая стала основой систем искусственного интеллекта, таких как чат GPS и Google Bard.
Но лауреат премии Тьюринга теперь говорит, что часть его сожалеет о том, что он помогал создавать системы, которые, как он опасается, могут спровоцировать распространение дезинформации и заменить людей в рабочей силе.
Он сказал, что ему приходилось придумывать себе оправдания типа «если бы это сделал не я, это сделал бы кто-то другой», чтобы не поддаваться чувству вины.
Он проводил сравнения с «отцом атомной бомбы» Робертом Оппенгеймером, который, как сообщается, был обезумевшим от своего изобретения и посвятил остаток своей жизни прекращению его распространения.
Говоря газете «Нью-Йорк таймс» о своей отставке, он предупредил, что в ближайшем будущем А.И. наводнит Интернет фальшивыми фотографиями, видео и текстами.
Он добавил, что это было бы стандартом, при котором обычный человек «больше не смог бы знать, что является правдой».
По его словам, технология также представляет серьезный риск для «тяжелой» работы и может перевернуть карьеру людей, работающих параюристами, личными помощниками и переводчиками.
Некоторые работники уже говорят, что они используют его для выполнения нескольких заданий, выполняя такие задачи, как создание маркетинговых материалов и запись собраний Zoom, чтобы им не приходилось слушать.
«Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в [человеческом] мозге», — сказал он, объясняя свои опасения.
«Идея о том, что эта штука действительно может стать умнее людей — мало кто в это верил.
— Но большинство людей думали, что это далеко не так. И я думал, что это было далеко не так. Я думал, что до этого еще 30-50 лет, а то и больше.
— Очевидно, я больше так не думаю.’
На вопрос о том, почему он помог разработать потенциально опасную технологию, он сказал: «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
Хинтон добавил, что ранее он перефразировал Оппенгеймера, когда ему задавали этот вопрос в прошлом, сказав: «Когда вы видите что-то технически привлекательное, вы продолжаете и делаете это».
Хинтон решил уволиться из Google в прошлом месяце после десяти лет работы в технологическом гиганте на фоне распространения технологий искусственного интеллекта.
Перед отъездом у него состоялся долгий разговор с исполнительным директором материнской компании Google Alphabet Сундаром Пичаи, хотя неясно, что было сказано.
Обращаясь к своему бывшему работодателю, он обвинил Google в том, что она не является «надлежащим управляющим» технологиями искусственного интеллекта.
По его словам, в прошлом компания держала потенциально опасные технологии в секрете. Но теперь компания отбросила осторожность, поскольку конкурирует с Microsoft, которая в прошлом месяце добавила чат—бота в свою поисковую систему Bing.
Главный научный сотрудник Google Джефф Дин заявил в своем заявлении: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации».
Его предупреждение прозвучало, когда Силиконовая долина погрузилась в гражданскую войну из—за развития искусственного интеллекта — когда величайшие умы мира разделились по поводу того, возвысит это человечество или уничтожит его.
Опасения по поводу искусственного интеллекта возникают по мере того, как эксперты предсказывают, что он достигнет сингулярности к 2045 году, когда технология превзойдет человеческий интеллект настолько, что мы не сможем ее контролировать.
Илон Маск, соучредитель Apple Стив Возняк и покойный Стивен Хокинг являются одними из самых известных критиков искусственного интеллекта, которые считают, что он представляет «огромный риск для общества и человечества» и может иметь «катастрофические последствия».
В прошлом месяце они даже призвали к паузе в «опасной гонке» по внедрению продвинутого искусственного интеллекта, заявив, что необходимы дополнительные оценки рисков.
Но Билл Гейтс, Май Пичаи и футурист Рэй Курцвейл находятся на другой стороне дебатов, приветствуя технологию как «самую важную» инновацию нашего времени.
Они утверждают, что это могло бы вылечить рак, решить проблему изменения климата и повысить производительность.
Хинтон ранее не присоединялся к дебатам, заявив, что не хочет высказываться до тех пор, пока официально не покинет Google.
Он приобрел известность в 2012 году, когда в Университете Торонто, Канада, вместе с двумя студентами разработал нейронную сеть, которая могла анализировать тысячи фотографий и обучаться распознавать обычные объекты, такие как цветы, собаки и автомобили.
Позже Google потратила 44 миллиона долларов на приобретение компании, основанной Хинтоном на основе этой технологии.
Выпуск ботов с искусственным интеллектом, таких как ChatGPT (стоковое изображение), вызвал призывы многих кругов пересмотреть технологию из-за риска, который она представляет для человечества
Продвинутые системы искусственного интеллекта, которые уже доступны, включают ChatGPT, на который теперь подписано более миллиарда человек после его выпуска в ноябре. Данные показывают, что у него также до 100 миллионов активных пользователей в месяц.
Платформа, запущенная компанией OpenAI, базирующейся в Сан-Франциско, мгновенно завоевала успех во всем мире.
Чат-бот — это большая языковая модель, обученная на массиве текстовых данных, позволяющая ему генерировать устрашающе похожий на человеческий текст в ответ на заданное приглашение.
Общественность использует ChatGPT для написания исследовательских работ, книг, новостных статей, электронных писем и другой текстовой работы, и хотя многие рассматривают его скорее как виртуального помощника, многие блестящие умы видят в нем конец человечества.
Если люди потеряют контроль над искусственным интеллектом, тогда будет считаться, что он достиг сингулярности, что означает, что он превзошел человеческий интеллект и обладает независимым мышлением.
Искусственный интеллект больше не нуждался бы в людях и не прислушивался бы к ним, что позволило бы ему красть ядерные коды, создавать пандемии и разжигать мировые войны.
Основатель DeepAI Кевин Барагона, подписавший письмо, рассказал DailyMail.com : «Это почти сродни войне между шимпанзе и людьми.
Очевидно, что люди побеждают, поскольку мы намного умнее и можем использовать более передовые технологии, чтобы победить их.
«Если мы будем похожи на шимпанзе, то Искусственный интеллект уничтожит нас, или мы станем его рабами».
Источник: www.dailymail.co.uk
