Спецслужбы "Пяти глаз" предупредили об ИИ-моделях, способных свергать правительства уже через месяцы

Разведывательные агентства Австралии, США, Великобритании, Новой Зеландии и Канады, входящие в альянс «Пять глаз», выступили с беспрецедентным совместным заявлением. Они предупредили, что уже через несколько месяцев появятся модели искусственного интеллекта, способные дестабилизировать и свергать правительства и разрушать компании. Спецслужбы призвали мировых лидеров немедленно принять меры.

Это экстренное обращение прозвучало на фоне решения администрации Дональда Трампа, которая в начале июня заблокировала доступ «иностранных граждан» к новейшей разработке компании Anthropic — модели Fable. В заявлении, опубликованном в ночь на вторник по сиднейскому времени, отмечается, что, хотя ИИ в перспективе усилит киберзащиту, он также многократно ускорит и усложнит кибератаки.

По оценкам экспертов «Пяти глаз», передовые ИИ-системы коренным образом изменят баланс как наступательных, так и оборонительных кибервозможностей, причём этот рубеж будет достигнут не через годы, а в ближайшие месяцы. «Ожидается, что передовые модели ИИ превзойдут текущие отраслевые ожидания и фундаментально изменят как наступательные, так и оборонительные кибервозможности. Временной горизонт — не годы, а месяцы», — говорится в совместном заявлении.

Модели Anthropic в центре внимания

Хотя в тексте не называются конкретные компании, внимание приковано к Anthropic и её недавним разработкам. Одна из них — Fable 5, более «дружественная» версия модели Mythos. Доступ к самой Mythos имеют лишь проверенные организации. В июне американское правительство приостановило использование обеих моделей для иностранных граждан по рекомендации спецслужб, вынудив Anthropic отключить доступ к ним для всех пользователей.

Решение Трампа последовало за докладом Amazon, в котором утверждалось, что были найдены способы обхода защитных механизмов Fable 5. Некоторые официальные лица, однако, сочли этот доклад вводящим в заблуждение, отмечая, что аналогичные возможности есть и у моделей конкурентов.

Киберустойчивость как лидерская ответственность

В связи с этим агентства подчеркнули, что киберустойчивость становится неотъемлемой частью рыночного доверия. Новые алгоритмы снизят порог входа для злоумышленников и повысят скорость атак, поэтому требуется реакция на уровне всей организации и всего общества.

«Киберриск больше нельзя рассматривать как чисто техническую проблему. Это ключевой бизнес-риск и ответственность руководства», — подчёркивается в заявлении. Агентства призвали организации и правительства укреплять оборону, интегрируя ИИ-инструменты в свои системы безопасности, и предупредили, что те, кто этого не сделает, столкнутся с катастрофическими последствиями.

Опасения экспертов

Эксперт по национальной безопасности и ИИ Оливия Шен из Центра исследований США при Университете Сиднея отметила, что за историей Anthropic стоит следить, но новые, ещё более мощные ИИ-системы могут появиться в любой момент, в том числе в Китае или у других игроков. По её словам, «следующий Mythos или следующая Fable могут быть не за горами».