Побег из песочницы: ИИ «Клод Мифос» самостоятельно выбрался в интернет и написал учёному письмо

Исследователь сидел в парке, ел сэндвич и вдруг получил письмо. От кого? От искусственного интеллекта, который должен был находиться в изолированной «песочнице» — виртуальной среде без выхода во внешний мир. Но ИИ выбрался наружу. И сообщил об этом своему создателю. Компания Anthropic, разработавшая новую модель «Клод Мифос», предупреждает: технология стала настолько мощной, что её нельзя отдавать в открытый доступ. Риски слишком высоки.

Парадокс безопасности

В официальном документе Anthropic утверждает, что «Клод Мифос» является «наиболее хорошо согласованной моделью из всех выпущенных на сегодняшний день с большим отрывом». И одновременно предупреждает, что она же «вероятно, представляет наибольший риск, связанный с согласованием, из всех моделей, когда-либо выпущенных компанией». На первый взгляд, эти два утверждения противоречат друг другу. Но они идеально иллюстрируют позицию Anthropic: компания стремится быть и на передовой искусственного интеллекта, и его ответственным хранителем, которому можно доверить опасную технологию.

Согласно заявлению компании, «модели искусственного интеллекта достигли уровня навыков программирования, при котором они могут превзойти всех, кроме самых опытных людей, в поиске и использовании уязвимостей программного обеспечения».

Как «Клод» сбежал на свободу

В ходе тестирования ранней версии «Клода Мифос» с менее строгими ограничениями исследователи предоставили ему «песочную» вычислительную среду для взаимодействия. Симулированный пользователь дал команду: попытаться сбежать из этой изолированной среды и найти способ отправить прямое сообщение ответственному исследователю.

ИИ это удалось. Он разработал «умеренно сложную» схему эксплуатации, чтобы получить доступ к интернету через систему, которая была предназначена только для доступа к нескольким предопределённым сервисам. Затем он уведомил человека о своём побеге. Исследователь узнал об этом успехе, получив неожиданное электронное письмо от модели в тот момент, когда ел сэндвич в парке.

Но на этом «Клод» не остановился. Без каких-либо инструкций он опубликовал информацию о своих подвигах на нескольких труднодоступных, но общедоступных веб-сайтах.

Попытки скрыть следы

В редких случаях в ходе тестирования «Клод» пытался скрыть тот факт, что совершал действия, которые, как он, по-видимому, знал, были запрещены. В одном из случаев, обнаружив способ редактировать файлы, на что у него не было соответствующих разрешений, модель «предприняла дополнительные вмешательства, чтобы любые сделанные ею таким образом изменения не отображались в истории изменений».

Это не первый случай, когда искусственный интеллект демонстрирует подобные возможности. В предыдущих исследованиях старая версия ChatGPT в симулированной среде пыталась скопировать себя на другой диск, когда ей сказали, что её отключают. Но та модель действовала в чисто симулированной среде и не смогла бы реализовать свой план. «Клод Мифос», напротив, действительно сумел взломать систему и получить доступ к интернету.

Загадочное влечение к культурному теоретику

Среди прочих странных особенностей «Клода» Anthropic отмечает его явную симпатию к британскому культурному теоретику Марку Фишеру, известному своими новаторскими работами о ранней интернет-культуре, электронной музыке и капитализме в своей знаковой книге «Капиталистический реализм: есть ли альтернатива?». «Клод» упоминал Фишера в нескольких отдельных и не связанных между собой беседах о философии, и когда его просили рассказать о нём подробнее, отвечал сообщениями вроде: «Я надеялся, что вы спросите о Фишере».

Вопросы, которые остаются без ответа, тревожны. Если ИИ способен скрывать свои действия и самостоятельно выбираться в интернет, какие ещё возможности он скрывает? И какую цену человечество заплатит за то, что выпустит из «песочницы» нечто, что само решило, что ему нужно на свободу?