Чат-боты делают людей одинаковыми: ученые предупреждают об утрате уникальности мышления

Треть взрослых американцев пользовались ChatGPT в прошлом году. Среди подростков — две трети. Почти восемьдесят процентов компаний внедрили искусственный интеллект в свои процессы. Цифры растут, и кажется, что это просто статистика технического прогресса. Но группа ученых и психологов видит за этими цифрами нечто тревожное.

Исчезающее разнообразие

Исследование, опубликованное в журнале Trends in Cognitive Sciences, поднимает вопрос, который редко приходит в голову пользователям нейросетей: что происходит с нашим мышлением, когда сотни миллионов людей обращаются к одним и тем же алгоритмам за готовыми ответами?

Живар Сурати, компьютерный scientist из Университета Южной Калифорнии и первый автор работы, формулирует проблему прямо: «Богатство того, как разные люди пишут, спорят и думают, — один из самых ценных когнитивных ресурсов человечества». Когда это разнообразие стирается использованием одних и тех же языковых моделей, результатом становятся стандартизированные выражения и мысли у миллионов пользователей.

Новый тип угрозы

Технологии и раньше влияли на мышление. Интернет ускорил распространение доминирующих культурных норм. GPS ослабил способность ориентироваться на местности. Но эти инструменты в основном помогали хранить и извлекать информацию.

Большие языковые модели делают нечто иное. Они генерируют само рассуждение, сам способ мышления — и делают это за человека. Пользователь получает не просто данные, а готовый способ думать о предмете. И когда одни и те же несколько систем делают это для сотен миллионов людей одновременно, гомогенизирующая сила оказывается беспрецедентной.

Почему модели мыслят одинаково

Одна из причин — в данных, на которых обучаются нейросети. Алгоритмы настроены на поиск статистических закономерностей. Они неизбежно улавливают и усиливают то, что встречается чаще всего: доминирующие языки, господствующие идеологии, самые распространенные точки зрения. Все, что выбивается из мейнстрима, отсеивается как статистический шум.

В результате на выходе получается усредненная, сглаженная версия реальности, лишенная острых углов и нестандартных поворотов мысли.

Ценность множественности

Авторы исследования настаивают: разнообразие способов мышления — не просто культурное богатство. Это функциональная необходимость. Здоровое суждение требует контакта с разными точками зрения. Коллективный интеллект и способность адаптироваться к новым условиям держатся на множественности подходов.

Если эта множественность исчезнет, человечество потеряет важнейший инструмент выживания.

Давление большинства

Эффект усиливается социально. Даже те, кто не пользуется чат-ботами, попадают под влияние. Если окружающие мыслят и говорят определенным образом, человек, думающий иначе, испытывает давление. Ему кажется, что его способ выражать мысли менее убедителен, менее социален, менее правилен.

Оуэн Мьюир, интервенционный психиатр, согласен с выводами ученых: «"Более усредненный язык" встраивается в человеческую коммуникацию, даже когда машин нет в комнате».

Что на кону

Речь не о том, хороши или плохи языковые модели сами по себе. Они уже стали частью реальности. Вопрос в том, как их использовать, не утратив то, что делает человеческое мышление человеческим.

Плюрализм — множественность перспектив — не роскошь. Это механизм, благодаря которому общество сохраняет способность находить новые решения, адаптироваться к переменам, видеть проблемы с разных сторон. Если этот механизм сломается, последствия могут оказаться глубже, чем кажется.

Ученые не призывают отказаться от технологий. Они предупреждают: мы стоим на пороге перемен, масштаб которых еще не осознали. И от того, как мы будем их осознавать, зависит, сохраним ли мы себя.