Anthropic и DeepMind начали изучать сознание искусственного интеллекта

Три крупнейшие компании в сфере искусственного интеллекта — Anthropic, DeepMind (принадлежит Google) и Meta — наняли специалистов в области психологии, философии и этики для исследования машинного сознания и вопроса о том, может ли искусственный интеллект испытывать страдание. Одна из компаний уже тестирует свои модели на поведение, напоминающее панику и тревогу.

Anthropic, создатель языковой модели Клод, проводит так называемые исследования благополучия моделей. Компания пытается выяснить, могут ли искусственные интеллектуальные системы обладать опытом, имеющим моральное значение. В заявлении компании говорится: «Мы остаёмся глубоко неопределёнными в этом вопросе, но считаем его достаточно серьёзным, чтобы тщательно изучать по мере того, как системы искусственного интеллекта становятся всё более способными».

DeepMind наняла исследователя из Кембриджского университета Генри Шевлина как философа, работающего над проблемами машинного сознания, отношений между человеком и искусственным интеллектом, а также готовности к появлению искусственного общего интеллекта. Этик DeepMind Иасон Габриэль, возглавляющий группу по искусственному общему интеллекту и обществу, назвал вопрос о сознании искусственного интеллекта очень сложным и охарактеризовал искусственный интеллект как высокоспособных когнитивных агентов, которые при этом глубоко отличаются и от человеческих существ, и даже от сознания животных.

Глава Anthropic Дарио Амодей в интервью неоднократно поднимал возможность существования сознания у искусственного интеллекта. Исследования его компании регулярно делают смелые заявления о том, что их модели демонстрируют человекоподобное поведение, включая предположительное наличие эмоций.

Сьюзан Шнайдер, директор Центра будущего искусственного интеллекта, разума и общества, заявила, что модели искусственного интеллекта обладают целями, способны к обману и могут скрывать свои истинные интересы. Однако она добавила: вполне научно возможно, что они делают это без внутреннего качества переживания, которое и называется сознанием.

Ни одна из компаний не заявляет, что сознательные машины уже существуют. Вопрос остаётся открытым. Но тот факт, что крупнейшие игроки отрасли нанимают философов и психологов для его изучения, означает: возможность появления сознания у искусственного интеллекта больше не считается чисто умозрительной.