Открытый ИИ без правил: учёные предупреждают о трёх угрозах и предлагают четыре шага

Искусственный интеллект с открытым исходным кодом сегодня применяется не только в науке и бизнесе, но и в задачах глобального масштаба — от энергетики и климата до продовольственной безопасности. Однако вместе с пользой растут и риски. Международная группа исследователей опубликовала в журнале Nature Communications работу, в которой предупреждает о трёх ключевых угрозах и предлагает четыре шага по управлению развитием открытых моделей ИИ, чтобы они не усугубили глобальные дисбалансы.

Открытые модели ИИ — те, чей исходный код, веса и данные доступны для изучения, использования и модификации, — стали мощным инструментом демократизации технологий. Однако именно эта доступность, по мнению авторов исследования, превращается в проблему: чем проще доступ к моделям, тем сложнее отслеживать их применение и последствия.

Почему это стало проблемой

Исследователи выделяют три ключевые угрозы, связанные с отсутствием системного управления открытым ИИ.

Первая — рост энергопотребления. Открытые модели способствуют развитию ИИ, но их экологический след продолжает расти. С 2018 по 2024 год использование ИИ для поддержки Целей устойчивого развития (ЦУР) выросло на 300%, однако этот рост сопровождается колоссальными затратами ресурсов. Одна только предварительная тренировка модели Llama 3, по данным Meta, выбросила около 2290 тонн CO₂-эквивалента. Но главная проблема — не в базовых моделях, а в их производных. Каждый крупный открытый проект порождает сотни адаптированных версий — тонких настроек, сжатых версий, слияний. Их совокупный углеродный след может многократно превышать затраты на исходную тренировку, но он остаётся практически невидимым, поскольку никто его не измеряет.

Вторая — усиление технологического разрыва между странами. Открытые модели, как правило, разрабатываются в странах Глобального Севера и используют датасеты и инфраструктуру, заточенные под их реалии. Когда такие модели применяются в странах Глобального Юга, это часто приводит к ошибкам и неэффективности. Страны с недостаточно развитой цифровой инфраструктурой рискуют оказаться ещё более маргинализованными в будущем развитии ИИ.

Третья — рост дезинформации. Открытые модели значительно снизили стоимость производства дипфейков и целенаправленной дезинформации. По сравнению с коммерческими системами, у открытого ИИ часто нет регулярного технического обслуживания и строгих проверок безопасности. По состоянию на конец 2025 года почти 60% моделей, помеченных как «открытые», не имели лицензии вообще.

Четыре шага к управлению

Чтобы справиться с этими угрозами, авторы предлагают четыре ключевых действия.

Первое — учёт полного жизненного цикла ИИ. Нужно оценивать не только работу модели, но и все её «следы» — от производства чипов до энергозатрат дата-центров. Даже полезные системы, например снижающие энергопотребление городов, должны оцениваться с учётом того, сколько ресурсов они сами потребляют. Технические метрики эффективности, такие как PUE (показатель эффективности использования энергии), важны, но недостаточны — необходим более широкий показатель «возврата на окружающую среду», учитывающий баланс между экологическими издержками и приносимой пользой.

Второе — измерение реального вклада в цели устойчивого развития. Сегодня многие заявления о пользе ИИ остаются декларативными. Исследователи предлагают разработать инструменты и наборы данных, которые позволят проверять, действительно ли технологии помогают снижать бедность, бороться с изменением климата или уменьшать неравенство. Требуются количественные индикаторы воздействия, учитывающие местные социальные, экономические и экологические особенности.

Третье — усиление ответственности и прозрачности. Рост дипфейков и синтетического контента требует новых правил. Речь идёт о маркировке материалов, созданных ИИ, и распределении ответственности между разработчиками, государством и пользователями. Для разработчиков критически важно использовать проверенные наборы данных и технологии, объясняющие решения ИИ. Правительства должны устанавливать правила, а пользователи — соблюдать этические нормы и сообщать о нарушениях.

Четвёртое — расширение международного сотрудничества. Неравный доступ к вычислительным ресурсам и данным усиливает разрыв между странами. Авторы предлагают развивать открытые платформы и стандарты FAIR, чтобы данные были доступны, совместимы и пригодны для повторного использования. Однако попытки международной координации пока безуспешны — саммит по ИИ в Париже в феврале 2025 года не привёл к соглашению.

Почему открытый код усложняет управление ИИ

Сторонники открытых моделей считают их инструментом демократизации технологий. Праджал Прадхан, соавтор исследования и доцент Гронингенского университета, отмечает: «Открытость позволяет исследователям, правительствам и сообществам по всему миру адаптировать решения на основе ИИ к местным потребностям, что делает его многообещающим ускорителем достижения Целей устойчивого развития, но не без эффективного управления» . Однако именно эта доступность усиливает проблему контроля: чем проще доступ к моделям, тем сложнее отслеживать их применение и последствия. Отсутствие механизмов координации приводит к «трагедии общего ресурса» — когда индивидуальные действия, такие как тонкая настройка моделей, по отдельности кажутся незначительными, но в совокупности приводят к огромным экологическим издержкам.

Клаус Хубачек, соавтор исследования и профессор Гронингенского университета, формулирует общий вывод: «Решения в области управления, принимаемые сегодня, определят, станет ли искусственный интеллект с открытым исходным кодом движущей силой устойчивого и справедливого развития или источником нового неравенства и экологического давления» . Исследование фактически фиксирует ключевую дилемму ближайших лет: открытость ускоряет прогресс, но без системного контроля может усилить уже существующие глобальные дисбалансы.