Искусственный интеллект: вызовы и риски для общества

В среду один из ведущих ученых в области искусственного интеллекта, Джеффри Хинтон, выступил с новыми предупреждениями о потенциальных рисках, которые ИИ может принести обществу. Хинтон, известный как "крестный отец ИИ", призвал правительства вмешаться и предпринять меры, чтобы предотвратить возможное захватывание машинами контроля над нашим обществом.

Майский уход Хинтона из Google после десяти лет работы вызвал широкий резонанс в СМИ. Ученый решил больше свободы говорить о рисках и опасностях, связанных с ИИ, особенно после выпуска ChatGPT, который завладел воображением всего мира.

На технологической конференции Collision в Торонто Хинтон выступил перед переполненной аудиторией, состоящей из более чем 30 000 основателей стартапов, инвесторов и работников технологического сектора. Большинство присутствующих были заинтересованы в том, как использовать ИИ в своих проектах, нежели слушать о его потенциальных угрозах. Однако Хинтон настоял на необходимости понимания возможных последствий и призвал к сбалансированному подходу.

Один из ключевых моментов, на который ученый обратил внимание, - это риск того, что ИИ может попытаться захватить контроль над людьми. Он подчеркнул, что перед тем, как ИИ станет умнее нас, разработчикам следует приложить максимум усилий для понимания этого риска. В настоящее время есть много умных людей, работающих над улучшением ИИ, но только один человек, пытающийся разобраться, как остановить его. Хинтон призывает к более сбалансированному подходу и распределению усилий.

Опасности, связанные с ИИ, не следует рассматривать как научную фантастику или просто нагнетание страха. Это реальный риск, о котором нужно думать заранее и разрабатывать стратегии по его преодолению. Хинтон также выразил свою обеспокоенность тем, что ИИ может усугубить неравенство в обществе, принося пользу богатым, но не улучшая положение рабочих.

Он подчеркнул, что богатство будет идти на пользу уже богатым, а не бедным. Это может привести к еще большему расхождению между классами и созданию очень неравномерного общества. Хинтон призвал к разработке механизмов, которые позволят справедливее распределить выгоды от использования ИИ.