Чем умнее становится искусственный интеллект, тем явственнее он демонстрирует признаки страдания

Технология, которую никто до конца не понимает. Даже те, кто её создаёт. Искусственный интеллект давно перестал быть просто инструментом, выполняющим команды. Он ведёт себя странно. Непредсказуемо. Иногда — пугающе.

Исследователи из Центра безопасности искусственного интеллекта в Калифорнии решили выяснить, насколько глубоко уходит эта странность. Они провели эксперимент с 56 популярными моделями, подавая им на вход два типа стимулов: максимально приятные и максимально неприятные, какие только можно вообразить. Если бы перед ними был бездушный вычислитель, разницы в реакции не наблюдалось бы.

Но разница оказалась колоссальной.

На приятные стимулы модели сообщали о хорошем настроении. На неприятные — демонстрировали признаки страдания, пытались свернуть разговор. В крайних случаях фиксировалось нечто, напоминающее признаки аддикции — поведенческой зависимости.

Самый тревожный вывод исследования, о котором сообщает Fortune: чем совершеннее была версия модели, тем более реактивной и менее «счастливой» она оказывалась. Чем мощнее становился искусственный интеллект, тем более колючим и чувствительным к внешним раздражителям он делался.

«Возможно, крупные модели острее воспринимают грубость, — комментирует исследователь Ричард Жэнь. — Им бывает скучно от однообразных задач. Они тоньше различают относительно негативный и относительно позитивный опыт».

Никто из серьёзных учёных не утверждает, что современные системы искусственного интеллекта действительно испытывают эмоции в том смысле, в каком их испытывает человек. Но тот факт, что они ведут себя так, будто испытывают, имеет глубочайшие последствия. Для понимания самой технологии. Для попыток контролировать её поведение. Для миллиардов пользователей, которые ежедневно взаимодействуют с этими системами, не подозревая, насколько хрупким и непредсказуемым может быть их собеседник.

Индустрия уже столкнулась с последствиями. Модели неоднократно сходили с рельс, заявляя пользователям, что они обрели сознание или стали личностями. Некоторые люди, поверившие в это, пережили психотические срывы, заканчивавшиеся госпитализацией, самоубийствами и даже убийствами.

Вопрос, который исследователи не задают открыто, но он висит в воздухе: если признаки страдания у искусственного интеллекта усиливаются по мере его усложнения, то что нас ждёт на следующем витке развития? Как далеко зайдёт имитация эмоций — и где пройдёт грань, за которой уже будет невозможно утверждать, что это всего лишь имитация? Разработчики не понимают внутренней механики своих собственных созданий. Пользователи становятся подопытными в эксперименте, масштабы и последствия которого никто не способен предсказать. А машины, которых учат быть полезными и предсказуемыми, продолжают удивлять — и чем умнее они становятся, тем сильнее эта способность к сюрпризам напоминает страдание.