Новое исследование Массачусетского технологического института и Университета штата Аризона показало, что предварительные убеждения пользователей относительно чат-бота с искусственным интеллектом (ИИ) существенно влияют на их взаимодействие с чат-ботом и восприятие его надежности, эмпатии и эффективности.
Исследование показало, что предварительное информирование пользователей о мотивах чатбота, таких как сочувствие, нейтральность или манипулирование, влияет на их восприятие чатбота и на то, как они с ним общаются. Несмотря на то что участники общались с абсолютно одинаковыми чатботами, те, кому сказали, что ИИ-агент заботится о них, поверили в это и дали ему более высокие оценки. С другой стороны, пользователи, получившие информацию о манипулятивных мотивах, не воспринимали чатбота как вредоносного, что свидетельствует о том, что люди склонны воспринимать ИИ так же, как и своих собратьев.
В ходе исследования также была обнаружена обратная связь между мысленными моделями ИИ-агента и его реакцией. Если пользователи считали, что ИИ сопереживает, то настроение их разговоров с чатботом со временем становилось более позитивным. И наоборот, если пользователи считали, что ИИ недоброжелателен, то настроения становились более негативными. Этот вывод позволяет предположить, что поведение пользователей меняется в зависимости от их восприятия ИИ, что, в свою очередь, влияет на реакцию ИИ.
Исследователи подчеркивают важность изучения того, как ИИ преподносится обществу, поскольку средства массовой информации и популярная культура в значительной степени влияют на наше восприятие.
Они также предостерегают от использования "прайминга" для обмана людей относительно мотивов или возможностей ИИ. Исследование подчеркивает, что успех ИИ - это не только инженерная проблема, но и проблема человеческого фактора. То, как мы говорим и называем ИИ, может оказать существенное влияние на его эффективность при взаимодействии с людьми.
Данное исследование проливает свет на сложные взаимоотношения между пользователями и чат-ботами ИИ, подчеркивая необходимость тщательного рассмотрения того, как эти технологии представляются и обсуждаются. Поскольку ИИ продолжает развиваться и все больше интегрироваться в нашу жизнь, понимание влияния убеждений пользователей на их взаимодействие с ИИ имеет решающее значение для создания эффективных и надежных систем.
