Члены ЮНЕСКО приняли первое глобальное соглашение по этике ИИ "на благо человечества"

"Мы находимся на критическом этапе истории", - сказал основатель Ethics in Tech Вахид Разави. "Нам, как людям, необходимо собраться вместе и решить, как лучше поступить с этими технологиями, пока они не превзошли нас в своих возможностях".

В пятницу специалисты по технологической этике аплодировали после того, как все 193 государства-члена Организации Объединенных Наций по вопросам образования, науки и культуры приняли первое глобальное рамочное соглашение по этике искусственного интеллекта, в котором признается, что "технологии ИИ могут оказать большую услугу человечеству" и что "все страны могут извлечь из них пользу", но при этом предупреждается, что "они также вызывают фундаментальные этические проблемы".

"ИИ широко распространен и позволяет нам выполнять многие повседневные действия - бронировать авиабилеты, управлять автомобилями без водителя и персонализировать наши утренние новостные ленты", - говорится в заявлении ЮНЕСКО в четверг. "ИИ также помогает принимать решения правительствам и частному сектору. Технологии ИИ дают замечательные результаты в таких узкоспециализированных областях, как диагностика рака и создание инклюзивной среды для людей с ограниченными возможностями. Они также помогают бороться с такими глобальными проблемами, как изменение климата и мировой голод, и способствуют сокращению бедности путем оптимизации экономической помощи".

"Но технология также приносит новые беспрецедентные проблемы", - предупреждает агентство. "Мы видим усиление гендерной и этнической предвзятости; значительные угрозы частной жизни, достоинству и агентству; опасности массовой слежки; и все более широкое использование ненадежных технологий ИИ в правоохранительных органах, и это лишь некоторые из них". До сих пор не существовало универсальных стандартов, которые могли бы дать ответ на эти вопросы".

Вахид Разави, основатель правозащитной группы Ethics in Tech (EIT), сказал в интервью Common Dreams в пятницу, что "это хороший знак", что Соединенные Штаты присоединились к остальным членам ЮНЕСКО в подписании соглашения.

"Это хороший шаг, но есть еще много шагов, которые нам нужно сделать, например, запрет на автономное оружие, на роботов-убийц", - добавил он. "Мы первые и главные в разработке этого оружия".

Дэвид Лесли, руководитель темы этики в Институте Алана Тьюринга, британском национальном институте науки о данных и искусственного интеллекта, сказал, что в рамках ЮНЕСКО "выдвигаются такие ценности и принципы, как человеческое достоинство, социальная и экономическая справедливость, процветание окружающей среды и взаимосвязь всех живых существ друг с другом и биосферой, которые служат компасом для глобальной инновационной экосистемы ИИ, остро нуждающейся в направлениях для принципиальной навигации".

ЮНЕСКО заявляет, что новая рекомендация "направлена на реализацию преимуществ, которые ИИ приносит обществу, и снижение рисков, которые он влечет за собой" путем:

- Защиты данных посредством действий, "выходящих за рамки того, что делают технологические компании и правительства, чтобы гарантировать людям большую защиту, обеспечивая прозрачность, самостоятельность и контроль над их личными данными";

- Запрета социального скоринга и массового наблюдения, которые "являются очень инвазивными... нарушают права человека и основные свободы, и... используются широко";

- Помощь в мониторинге и оценке "стран и компаний, разрабатывающих и внедряющих системы ИИ, для оценки воздействия этих систем на отдельных людей, общество и окружающую среду"; 

- Защита окружающей среды, чтобы "помочь обеспечить, чтобы ИИ стал более заметным инструментом в борьбе с изменением климата и в решении экологических проблем".

"Миру нужны правила для искусственного интеллекта, чтобы он приносил пользу человечеству. Рекомендация по этике ИИ - это важный ответ", - сказала в своем заявлении Генеральный директор ЮНЕСКО Одри Азулай. "Она устанавливает первые глобальные нормативные рамки, наделяя государства ответственностью за их применение на своем уровне. ЮНЕСКО будет поддерживать свои 193 государства-члена в ее реализации и попросит их регулярно отчитываться о своем прогрессе и практике".

Марек Роза, главный технолог пражской правозащитной группы GoodAI, в своем заявлении сказал, что новые рамки ЮНЕСКО являются "отличной основой не только для этики нынешних технологий ИИ, но и для сильного ИИ будущего".

"Мы находимся на переломном этапе истории", - сказал Разави из EIT. "Это как если бы мы изобрели колесо, но не знаем, что на нем перевозить. Это вопрос управления будущим ИИ, чтобы убедиться, что мы не создадим государство слежки, что мы не создадим государство, полное технологии Amazon Ring, что мы обуздаем использование технологии распознавания лиц".

"Нам нужно убедиться, что мы не создадим мир, в котором у нас будет автономное оружие", - добавил Разави. "ИИ может причинить много вреда, поэтому нам нужны этические рамки, и мы, как люди, должны собраться вместе и решить, как лучше поступить с этими технологиями, пока они не превзошли нас в своих возможностях".