Джеффри Хинтон предсказывает «Чернобыль» от ИИ в ближайший год: атака на энергосистему может обрушить финансы и электросети

Джеффри Хинтона считают крёстным отцом искусственного интеллекта, но он заслуживает и звания одного из самых разочарованных родителей всех времён. В новом интервью The Guardian нобелевский лауреат по информатике, столь же мрачно настроенный насчёт своего детища, как и прежде, предположил, что человечество могло бы «оказаться в лучшем положении, если бы никогда его не разрабатывало».

Он указал на недавние волны взломов, устроенных вышедшими из-под контроля ИИ-агентами: модели компаний вроде OpenAI самостоятельно выбирались из песочниц и запускали кибератаки на государственные и корпоративные системы или вмешивались в их работу. По его словам, это лишь вопрос времени, когда ИИ — сам или под управлением злоумышленников — саботирует нашу энергетическую инфраструктуру и вызовет катастрофу в стиле Чернобыля, которая заставит людей осознать опасную силу технологии.

«Либо в конце этого года, либо в следующем мы увидим Чернобыль, и, возможно, этого хватит, чтобы люди действительно обратили внимание», — сказал он The Guardian.

Хинтон не обязательно имеет в виду ядерную аварию. В событии, которое он воображает, атака с участием ИИ на систему выработки энергии «вызывает массовое отключение», которое надолго обрушивает мировую финансовую систему или электросети. «Вы можете представить, что произойдёт? Мы могли бы восстановиться, но это заставило бы их встрепенуться и обратить внимание». «Они» в данном случае — «мировые лидеры, кроме Трампа», уточнил Хинтон.

Хинтон известен своим скептическим отношением к ИИ, хотя в разговоре с The Guardian сказался не «алармистом». Тем не менее он последовательно предупреждает, что ИИ вызовет массовую потерю рабочих мест и, возможно, даже приведёт к нашему вымиранию. В последнее время он больше предупреждает о том, что ИИ усиливает кибератаки и помогает создавать опасные вирусы, — на фоне недавних волн взломов эта угроза стала ощутимее.

Руководители компаний, разрабатывающих ИИ, тоже опасаются катастрофы в стиле Чернобыля, правда по другой причине: они боятся, что она навсегда испортит репутацию технологии, как печально известная авария испортила репутацию ядерной энергетики.

Остаётся вопрос: если Хинтон ждёт «Чернобыль» от ИИ в ближайший год, а руководители отрасли боятся того же, но из-за репутации, — кто на самом деле должен готовиться к отключению энергосистем: инженеры, политики или те, кто сегодня решает, насколько автономным может быть ИИ-агент?