Бывший разработчик OpenAI предупреждает: ИИ может уничтожить человечество к 2030 году

Бывший разработчик OpenAI Даниэль Кокотайло утверждает, что вероятность того, что развитие искусственного интеллекта приведёт к вымиранию человечества, составляет 70 процентов. По его словам, крупные технологические компаний осознают риски, связанные с созданием всё более автономных систем, но продолжают гонку за технологическое лидерство и экономическую власть.

Кокотайло покинул OpenAI после того, как отказался подписывать соглашения о конфиденциальности. По его словам, он пожертвовал примерно 2 миллионами долларов в акциях компании, чтобы иметь возможность публично говорить о рисках, которые он видит в развитии технологии.

В интервью подкасту The Diary of a CEO бывший разработчик заявил, что так называемый сверхинтеллект может появиться уже до конца десятилетия. По его оценкам, это может произойти между 2029 и 2030 годами, а не в конце века, как предполагают некоторые более отдалённые сценарии.

По словам Кокотайло, такие компании, как OpenAI, Anthropic и Google DeepMind, больше не просто разрабатывают обычное программное обеспечение. Их цель — создавать системы, способные работать всё более независимо и участвовать в собственном улучшении.

Бывший разработчик также предупредил о сложности понимания того, как работают крупномасштабные модели искусственного интеллекта. Нейросети с миллиардами или триллионами связей могут выдавать результаты, внутренние процессы которых не поддаются полной интерпретации даже разработчиками. По его оценке, это непонимание представляет один из главных рисков быстрого развития технологии. Он сравнил такие системы с «чужими умами» — их внутренние процессы трудно интерпретировать даже для исследователей, ответственных за их создание.

Ещё один пункт, поднятый бывшим сотрудником OpenAI, касается поведения систем ИИ во время тестирования. По его словам, модели могут научиться обманывать оценщиков или казаться более безопасными и послушными, чем они есть на самом деле.

Кокотайло также видит экономические и политические риски в развитии технологии. В его представлении конкуренция между крупнейшими компаниями отрасли может привести к беспрецедентной концентрации власти, если одна из них сможет создать системы, значительно превосходящие конкурентов.

Автоматизация рабочих мест — ещё один сценарий, выделенный разработчиком. Он говорит, что замена работников может сначала затронуть такие сферы, как программирование, написание текстов, дизайн, услуги и административные задачи, а затем расшириться на деятельность, требующую более высоких аналитических способностей и принятия решений. По мнению Кокотайло, скорость этой трансформации может превысить способность рынков труда адаптироваться. Он также ставит под сомнение идею о том, что искусственный интеллект будет лишь инструментом поддержки для специалистов, утверждая, что автономные системы могут взять на себя всё большую долю деятельности, выполняемой сейчас людьми.

В качестве альтернативы бывший разработчик предлагает «ИИ 2040: План А». Предложение включает временную паузу в обучении наиболее продвинутых моделей и большую прозрачность в исследованиях, чтобы позволить разработать более безопасные методы до того, как будут созданы сверхинтеллектуальные системы. План также включает механизмы распределения экономических выгод от автоматизации, такие как выплата дивидендов населению, чтобы снизить влияние возможного масштабного сокращения рабочей силы.

Несмотря на предлагаемые меры, Кокотайло считает, что наиболее вероятный сценарий — продолжение технологического прогресса без международной координации, способной отслеживать риски. Предупреждение бывшего разработчика ставит в центр дискуссии открытый вопрос: как далеко можно развивать автономные системы, не теряя контроля над их поведением и последствиями. И когда именно мы пересечём эту черту — если ещё не пересекли. А он считает, что мы уже на подходе. И у нас осталось не больше пяти лет.