Под контролем компьютера: зомби эхоборги

Что произошло бы, если бы компьютер получил контроль над человеческим телом? София Бен-Ашур "эхоборг" - человек, участвующий в необычном эксперименте, в котором исследуются перспективы наших взаимоотношений с искусственным интеллектом.

София Бен-Ашур на вид ничем не отличается от обычной лондонской студентки. У нее коротко подстриженные каштановые волосы, живые глаза и широкая улыбка. Мы болтаем о погоде, о музыке, о ее работе – обучении иностранцев английскому языку. Вы никогда бы не поверили, что речью Софии управляют несколько микропроцессоров, расположенных на расстоянии свыше 300 км от нас.

Впоследствии София призналась мне, что не чувствует особого дискомфорта от того, что находится под контролем компьютера: "Лишь сегодня мне впервые пришла в голову мысль о том, что я в этом эксперименте - не более чем тело".

Технический термин, описывающий функцию Софии, – "эхоборг" (echoborg), то есть живой человек, на время "одалживающий" роботу свой речевой аппарат. Все произносимые ей слова генерируются программой-собеседником в интернете и подаются в звуковой форме на незаметный наушник в ее ухе.


Описание эксперимента чем-то напоминает научно-фантастическую антиутопию. В действительности же он преследует весьма серьезную цель.

Исследователи из Лондонской школы экономики хотят понять, как внешний вид и поведение существа с искусственным интеллектом могут влиять на наше к нему отношение. Это важно, поскольку со временем, по всей вероятности, мы окажемся в окружении машин, внешне неотличимых от человека, и необходимо заранее знать нашу возможную реакцию на сосуществование с ними.

"Большинство образцов искусственного интеллекта, с которыми нам приходится иметь дело сегодня, снабжены механическим интерфейсом, поэтому их трудно спутать с живым человеком", - говорит один из исследователей, Кевин Корти. Ему пришла в голову идея объединить электронный интеллект с человеческим телом: "В этом случае, по нашему замыслу, люди действительно верили бы в то, что разговаривают с человеком из плоти и крови".

Корти и его научный руководитель Алекс Гиллеспи вдохновились работой на тему так называемых сираноидов, которую провел Стэнли Милгрэм – психолог, чьи эксперименты нередко вызывали неоднозначную реакцию.

В наиболее известном из своих опытов Милгрэм поручил одним участникам подвергать других ударам электрического тока, постепенно повышая напряжение. Даже когда испытуемым казалось, что разряды начинают причинять их жертвам очень болезненные ощущения, многие из них продолжали эксперимент.
Когда контроль над человеческим телом получает компьютерная программа, происходят весьма необычные вещи

Получается, что человеку проще причинить вред другим, чем поставить под сомнение авторитет начальства.

Однако под конец жизни Милгрэм заинтересовался более гуманным аспектом нашего восприятия человеческого тела, которое мы видим перед собой. Он задался вопросом: действительно ли мы слушаем то, что говорит наш собеседник, или же наше мнение о нем предопределено исключительно впечатлением о видимых проявлениях его поведения?

Чтобы это выяснить, Милгрэм решил поставить опыт, основанный на фрагменте из пьесы XIX в. "Сирано де Бержерак". Сирано – опытный воин, остроумный поэт и искусный музыкант, но считает себя слишком безобразным, чтобы завоевать сердце прекрасной кузины Роксаны.

Главный герой помогает соблазнить Роксану своему красивому, но недалекому сопернику Кристиану, подсказывая ему, какие именно слова нужно говорить. В самой известной сцене пьесы Сирано прячется в кустах, тихонько нашептывая Кристиану прелестные глупости, которые тот вслух повторяет Роксане, внимающей с балкона.

Милгрэм подумал, что эксперимент такого рода стал бы идеальным способом проверить, насколько внешний вид человека влияет на наше восприятие его ума. В серии опытов, поставленных им, сираноиды (как Милгрэм окрестил подопытных) получали реплики от человека, находившегося в другом помещении, через вставленный в ухо миниатюрный радиоприемник.

Как и Роксане из пьесы, собеседникам сираноидов не было известно об этой подробности эксперимента.

Милгрэм с удивлением обнаружил, что большинство людей, проведя добрых 20 минут в беседе с сираноидом, так и не замечали подвоха. "Мы просто не способны заметить, что все произносимые нашим собеседником фразы исходят не от него, а от удаленного источника", - писал он.

Затем Милгрэм начал усложнять условия экспериментов - так, он решил узнать реакцию людей на собеседника-подростка, реплики которому подсказывает пожилой профессор.

Милгрэм скончался в 1984 г., не успев завершить исследование, и все забыли о сираноидах на добрых два десятилетия - до тех пор, пока Гиллеспи не решил продолжить работу в этом направлении.

В одном из первых опытов он воспроизвел эксперимент Милгрэма с подростком. Гиллеспи сам сыграл роль невидимого подсказчика, а в качестве "ретранслятора" выбрал 11-летнего мальчика, которому задавала вопросы целая группа взрослых.

Исследователь поразился снисходительности собеседников подростка. "Мне задавали вопросы о графене, об американском писателе Генри Джеймсе, о смерти Маргарет Тэтчер, о текущем финансовом кризисе. После чего взрослые сделали вывод о том, что сидящий перед ними ребенок довольно развит интеллектуально, и, вероятно, его психический возраст составляет около 15 лет", - вспоминает он.
Живые зомби

Напрашивается вывод о том, что мы очень плохо отличаем поведение людей, действующих по собственной воле, от поведения "зомби", выполняющих чьи-то команды.

"Каким бы очевидным ни было несоответствие между внешним видом и интеллектом человека, люди склонны его не замечать", - говорит Корти. Иными словами, мы больше судим человека по одежке, чем по глубине его мыслей.

К такому заключению можно отнестись скептически, но я и сам попался в эту ловушку, когда во время посещения лаборатории <span >Гиллеспи познакомил меня с Корти.

Стоявшая передо мной молодая женщина абсолютно не походила на фотографии Кевина, которые я видел ранее. Возможно, подумал я, передо мной транссексуал? На самом деле Кевин в тот момент находился в другом помещении, а я разговаривал с Софией (в жизни София - студентка Лондонской школы экономики; она ставит и собственные эксперименты подобного рода).

Мне стало очевидно, насколько легко попасть в плен иллюзии сираноида, даже если знаешь, в чем заключается секрет: одного лишь знания недостаточно.
Так называемые сираноиды говорят и действуют под диктовку других

После первых удачных опытов Корти и Гиллеспи решили усложнить эксперименты, и именно тогда им пришла в голову идея: "Мы подумали – а что если реплики сираноиду будет подсказывать не человек, а компьютерная программа?"

Так появился эхоборг - новый вид сираноида, или человек, ретранслирующий фразы, подсказанные виртуальным собеседником.

Таким образом Корти рассчитывал заглянуть в будущее, в котором роботы будут внешне напоминать людей с большой степенью реалистичности. "Мы еще очень далеки от создания совершенного человекоподобного интерфейса, но уже сейчас можно соединить ум машины с телом человека и посмотреть, что из этого выйдет", - говорит он.

В одном из таких экспериментов испытуемых не предупредили о том, что они будут разговаривать с роботом. Как и предсказывал Милгрэм, даже после продолжительных бесед с эхоборгом у них так и не возникло никаких подозрений.

"В подавляющем большинстве случаев участники эксперимента не догадывались о том, что разговаривают с компьютерной программой. Они просто предполагали, что у собеседника есть определенные проблемы с коммуникацией. Но им ни на секунду не пришло в голову, что они разговаривают с гибридом человека и машины", - говорит Корти.

В научно-фантастических произведениях - включая и недавний телесериал "Люди" (Humans) - часто ставится вопрос о том, смогут ли роботы когда-либо интегрироваться в человеческое общество до такой степени, что мы больше не в состоянии будем отличить их от живых людей.

Эксперименты Корти наводят на мысль о том, что даже при нынешнем уровне развития искусственного интеллекта нас уже проще обвести вокруг пальца, чем можно было бы предположить.

Впрочем, имеется один нюанс. В какой-то момент исследователи решили воспроизвести классический тест Тьюринга, предназначенный для оценки способности искусственного разума сойти за живого человека до такой степени, что собеседник не сможет опознать в нем компьютерную программу.

При этом участников эксперимента оповестили о том, что тот, с кем они будут разговаривать, может являться роботом - и предложили им угадать, так ли это на самом деле.

В этой ситуации – с использованием живого интерфейса – вероятность того, что виртуальный собеседник успешно пройдет тест и будет принят за человека, оказалась ниже, чем в классическом тесте с использованием компьютерного экрана в качестве интерфейса. "В ситуации живого общения наши ожидания от собеседника выше", - отмечает Гиллеспи.

Это в своем роде парадокс: если мы не знаем, что, возможно, разговариваем с компьютерной программой, мы склонны списывать странности поведения собеседника на его индивидуальные особенности. Но как только мы узнаем о том, что перед нами может быть не человек, мы становимся особенно критичными ко всем изъянам в коммуникации с его стороны.

"Искусственный интеллект может быть невероятно умным, но наше знание о том, что он не является человеком, способно отбить у нас желание общаться с ним в человеческом понимании этого слова", - говорит Корти.
Зловещие или неуклюжие?

Гиллеспи особенно интересуется дилеммами, связанными с разговором лицом к лицу с собеседником. "В таких ситуациях нельзя просто прервать разговор на полуслове и удалиться, - говорит он. - Есть определенные правила этикета, и людям неловко их нарушать, в то время как при разговоре с кем-нибудь по интернету такого чувства не возникает".

Я понимаю, о чем он говорит. В разговоре со мной Софии удавалось вести непринужденную беседу. Например, у нас состоялся следующий диалог:

Я: Что нового в мире?

София: По сообщению Би-би-си, Великобритания собирается провести референдум о выходе из ЕС – правда, не 5 мая.

Я: Хорошо. Теперь спросите о чем-нибудь меня.

София: Какая ваша любимая музыкальная группа?

Я: Я не большой поклонник групп, мне нравятся поэты-песенники - например, Джони Митчелл.

София: О, я обожаю Джони Митчелл. Она частенько заходит сюда к нам.

Если бы этот разговор происходил в интернете, Софии не составило бы труда меня одурачить (хотя, возможно, я и заподозрил бы, что она привирает). Но при живой беседе ее реплики казались несколько странными, а любая задержка с ответом с ее стороны становилась невыносимой.

В ситуации разговора в чате я бы не испытывал по этому поводу таких сильных эмоций.

Гиллеспи полагает, что роботы будущего могут столкнуться с проблемой сродни эффекту "зловещей долины" (uncanny valley), суть которого в том, что по мере возрастания реалистичности компьютерной анимации человеческие персонажи кажутся зрителям все более отталкивающими.

Этот феномен можно наблюдать в ряде фильмов с широким использованием компьютерной графики. Если же добавить жутковатые ощущения от разговора с компьютерной программой, отталкивающий эффект может только усилиться.
Судим ли мы о роботах по их интеллекту или внешнему виду?

"По мере того, как искусственный интеллект все больше приближается к полной имитации человеческого разума, он становится не просто зловещим, а неуклюжим. Возможно, имеет смысл вести речь о своего рода неуклюжей долине", - говорит он.

Как бы странно это ни звучало, нашей основной эмоцией по отношению к роботам будущего может стать не ужас, как предсказывают научные фантасты, а чувство неловкости за другого.

Если не преодолеть эту проблему, искусственному интеллекту не стать частью нашей повседневной жизни - вот почему Корти и Гиллеспи намерены продолжать эксперименты с эхоборгами.

"Я считаю, что мы находимся на переднем крае науки, - утверждает Гиллеспи. – Люди часто говорят, что наше развитие зависит от технологии, но это не так. Прогрессом движет общественное мнение. Людям решать, выйдут ли разумные роботы на улицы наших городов в роли полицейских, например, поэтому для того, чтобы понять, как общество отнесется к массовому появлению искусственного разума в нашей жизни, требуется провести большой объем работ".

Возможно, эти эксперименты дадут ответ и на вопрос, что значит быть живым человеком.

Представьте себе, что существует робот, внешне выглядящий как эхоборг София, но отличающийся от программы-собеседника способностью вести беседу не хуже человека.

"Есть ли что-то кроме нашего поведения, что делает нас людьми? - задается вопросом Корти. - Ведь если машины способны копировать нашу внешность и особенности поведения, почему бы не назвать людьми и их?"