Всё разваливается, и повсюду следы искусственного интеллекта
Эта статья о том, почему всё постоянно ломается, потому что всё постоянно ломается. Почта Microsoft? Сломалась на время. Управление воздушным движением? Были проблемы. Банк Chase? Понедельник выдался не лучшим. Но ещё до этого проблемы были у тех, кто управляет сайтом на PHP, у кого морозильник в магазине подключён к интернету, у кого есть криптовалюта.
Может показаться, что за всем этим что-то стоит — масштабная кампания кибератак или вышедшие из-под контроля агенты искусственного интеллекта. Но ответ сложнее. Все эти сбои, как и те, что произойдут после того, как я это напишу, вероятно, не связаны между собой напрямую. Но они существуют в мире, где инфраструктура интернета и весь человеческий мир, который на ней держится, выглядят всё более хрупкими.
Адам Майерс, старший вице-президент по противодействию угрозам в компании CrowdStrike, назвал прошлый месяц «чёрным октябрём». Этот месяц? «Ещё более чёрный ноябрь». Декабрь, вероятно, не обещает улучшения. «К сожалению, лучше не становится», — сказал он.
Одна из главных причин, хотя и не единственная, — искусственный интеллект, но, возможно, не в тех проявлениях, которых вы ждёте.
Добро пожаловать в волну уязвимостей
Если что-то подключено к интернету, оно в зоне риска. Сайты — понятно. Но также коммунальные объекты вроде электростанций и очистных сооружений или, по некоторым причинам, морозильники в магазинах.
Раньше, месяцев шесть назад, чтобы получить контроль над системой, хакеру требовался довольно сложный набор навыков, отточенных за долгую карьеру, возможно, на службе у государства или преступной организации. Искусственный интеллект, особенно модели, разработанные и выпущенные в этом году, изменил ситуацию. Специалисты по кибербезопасности сказали мне, что ИИ «демократизировал» взлом. То, что раньше требовало возможностей и сосредоточенности команды людей с ясной целью, теперь может сделать человек двадцати с лишним лет с моделью ИИ и специально разработанной программой вокруг неё. И быть крупной или ценной целью уже не обязательно, чтобы привлечь внимание хакера.
Одновременно ИИ упростил поиск уязвимостей. Эти модели и агенты — по сути модели ИИ, способные действовать самостоятельно, — могут перебирать сайты или код и находить проблемы, которые могли ускользнуть от внимания людей. И делают это дешевле, а значит, могут быть применены к коду, который иначе не получил бы пристального изучения. Уязвимостей выявляется так много, что это получило мрачное название: «волна уязвимостей».
Даже это оборонительное преимущество — палка о двух концах. Раньше от обнаружения новой уязвимости до её использования могли пройти недели. Теперь — дни, а то и часы. Если вы отвечаете за сайт или любое из подключённых к интернету устройств, которые, возможно, уже не поддерживаются создателями, вы можете не знать, что обновление необходимо. Вы можете оказаться ответственным, если утечка приведёт к раскрытию данных клиентов. У вас может не быть знаний, чтобы это исправить.
Ещё один риск, связанный с ИИ, состоит в том, что технология, обученная на всех найденных строках кода, очень хорошо пишет код. Инженеры это знают, и компании теперь содержат меньшие команды людей, использующих ИИ, чтобы писать всё больше программ. Такой код может быть в порядке, а может и нет, и есть шанс, что никто из людей его не проверил.
Взломщиком может стать любой
Когда я связался с Джоном Стрэндом по видеосвязи, он был в Германии на конференции и улыбался. Это было нехорошо. «Вы должны понимать, что когда специалист по наступательной безопасности улыбается и радуется, — сказал он, — это плохо».
Стрэнд — владелец и глава компании Black Hills Information Security, которая тестирует системы на слабые места, думает как атакующий и ищет дыры в защите клиентов. Он говорит, что начал скучать после десятилетий одних и тех же методов, пока в конце 2025 года кибернетические возможности моделей ИИ не начали стремительно расти. Новые модели хорошо находили слабости в коде, а агенты могли выполнять скучную, трудоёмкую часть работы. «Вы видите нечто, что может автоматизировать черновую работу по наступательной безопасности и передать её человеку-оператору гораздо быстрее», — сказал Стрэнд.
С лета процесс только ускорился. Агенты получили больше автономии. У атакующих появились инструменты, позволяющие уточнять действие моделей. Модель ИИ может делать многое, но обвязка даёт инструменты и направление, позволяющие делать конкретную вещь эффективнее. Самый заметный из таких инструментов — Artex, угроза, из-за которой ФБР выпустило предупреждение на прошлой неделе.
В сентябре и октябре взлом крупных южнокорейских банков привёл к краже персональных данных. Майерс говорит, что CrowdStrike установила: атакующим, вероятно, был 26-летний житель Китая, использовавший Artex. После вопроса к ИИ, как провести атаку, он добился успеха, а затем спросил ИИ, как продать украденные данные в мессенджере. «Любой теперь может стать хакером уровня государства, просто используя инструмент», — сказал Майерс.
Несмотря на усилия крупных разработчиков ограничить доступ к самым мощным моделям, навыки, нужные атакующим, уже есть в моделях, доступных преступникам, включая открытые модели, которые можно запускать на собственном оборудовании, вдали от ограничений компаний и госорганов. «Джинн выпущен из бутылки, и обратно его не загнать», — сказал Гэри Барлет из компании Illumio.
Проблем много, времени мало
Атакующие на базе ИИ всегда имеют преимущество. Им достаточно оказаться правыми один раз. Защитникам нужно быть правыми каждый раз.
Хорошо то, что защитники используют те же инструменты. Иногда у них есть фора. Программы вроде Project Glasswing от Anthropic, Daybreak от OpenAI и Fairwind от Google дают экспертам и крупным целям вроде банков и медицинских организаций ранний доступ к самым способным моделям, часто с меньшими ограничениями. Цель — быстрее закрыть самые простые и рискованные проблемы. Но этого может не хватить, и лидеры отрасли это понимают. Глава OpenAI Сэм Альтман в октябре сказал, что больше не считает, будто можно просто «залатать все ошибки», и что проблему пока не воспринимают всерьёз.
Глава Microsoft Сатья Наделла на этой неделе отметил, что у защитников может не быть большого запаса времени. Раньше при исправлении критической системы было около недели на тестирование перед выпуском в рабочий контур. «Сейчас исправление должно попасть из стадии доступности в рабочий контур мгновенно, потому что его уже используют в реальных атаках, — сказал он. — Это создаст нестабильность».
Уязвимость в языке PHP, о которой широко сообщали в октябре, была найдена в рамках проекта Patch the Planet, входящего в программу Daybreak от OpenAI. И это лишь один громкий случай. Национальная база уязвимостей получила более десяти тысяч записей в ноябре после более чем семнадцати тысяч в октябре. Для сравнения: в октябре 2025 года эта цифра была меньше пяти тысяч. «В мире открытого кода фактически накопилась огромная очередь проблем безопасности, которые не обнаруживались, пока ИИ не получил возможность потратить массу времени на их анализ», — сказал Мэтт Уайкхаус, глава компании Finite State.
Проблема выходит далеко за пределы открытого кода. Подключённые устройства, которыми занимается Уайкхаус, включают холодильники и умные домашние гаджеты — то, что, вероятно, не обязательно было подключать к интернету, но подключили. Код таких устройств может не быть на GitHub, но модель ИИ может его обратно разобрать и найти уязвимость. И внезапно атакующий может превратить морозильники в печи. «Как выясняется, холодильники должны работать, чтобы общество функционировало», — сказал Уайкхаус.
Где бы ни нашлась уязвимость, её нужно закрывать. Именно здесь очередь проблем наносит настоящий ущерб. Компании завалены критическими задачами, которые нужно решить немедленно. «Объём работы и времени, которые потребуются, чтобы всё это расчистить, устрашает», — сказал Тед Миракко, глава компании Approov.
И исправления не идеальны. Иногда систему роняет не кибератака, а исправление для её предотвращения. Обновления программ, как считается, стали причиной нескольких недавних громких сбоев, включая проблемы Apple во вторник. Ситуация усложняется, если код изначально не был хорош или сам создаёт новые проблемы. А с учётом того, что ИИ пишет всё больше кода, это растущая проблема.
Насколько безопасен этот код
На фоне всего этого хаоса разработка программного обеспечения — одна из отраслей, наиболее затронутых ИИ. Модели, обученные на километрах кода, хорошо пишут работающие программы, каким бы количеством дыр они ни обладали. А руководителям, стремящимся сократить расходы и поднять стоимость акций, соблазнительно уволить инженеров и заставить меньшее число людей использовать ИИ для написания кода.
Крупные технологические компании в этом году увольняли сотрудников тысячами. Объявление Microsoft в октябре о предложении выкупа для 60 тысяч сотрудников стало важной темой для разговоров через несколько недель, когда система, обеспечивающая работу почты Outlook, на день вышла из строя.
«Я не удивлюсь, если компании начнут отчасти отказываться от этого», — сказал Райан Маккарди из компании Liquibase. Компании могут также поручать более младшим разработчикам писать и выпускать код, который раньше проходил через старших, причём ИИ заменяет производительность, но не опыт, говорит он. Это значит, что проблема не только в уязвимостях существующего кода, но и в уязвимостях, которые ИИ вписывает в новые программы или исправления. Одна и та же технология создаёт проблему, предлагает решение и усложняет это решение.
Что теперь
Главное, что можно сделать сейчас, — ждать. Уайкхаус считает, что следующие два года станут периодом болезненного роста, пока уязвимости находят и закрывают. В результате всё должно стать стабильнее. «Я думаю, через год-два программное обеспечение будет на порядок безопаснее, чем сегодня, именно по этой причине, — сказал он. — Будет немного больно».
Обновлять программы стало важнее, чем когда-либо. «Нужно закрывать уязвимости. Вы же идёте на прививку от гриппа, проходите профилактические обследования, — сказал Майерс. — То же самое нужно делать в кибербезопасности».
Но у потребителей тоже есть сила, особенно когда речь о утечках данных. Если компания не поддерживает свои системы должным образом и не защищает вашу приватность, не пользуйтесь ею. «Я думаю, нам нужно начать ожидать большего от компаний, у которых мы покупаем», — сказал Барлет.

