Выбор фона:
/ Новости сайта / Наука и Технологии / Под контролем компьютера: зомби эхоборги
02.08.2015

Под контролем компьютера: зомби эхоборги

Оценка: 5.0    3777 26 Наука и Технологии
10:15
Что произошло бы, если бы компьютер получил контроль над человеческим телом? София Бен-Ашур "эхоборг" - человек, участвующий в необычном эксперименте, в котором исследуются перспективы наших взаимоотношений с искусственным интеллектом.

София Бен-Ашур на вид ничем не отличается от обычной лондонской студентки. У нее коротко подстриженные каштановые волосы, живые глаза и широкая улыбка. Мы болтаем о погоде, о музыке, о ее работе – обучении иностранцев английскому языку. Вы никогда бы не поверили, что речью Софии управляют несколько микропроцессоров, расположенных на расстоянии свыше 300 км от нас.

Впоследствии София призналась мне, что не чувствует особого дискомфорта от того, что находится под контролем компьютера: "Лишь сегодня мне впервые пришла в голову мысль о том, что я в этом эксперименте - не более чем тело".

Технический термин, описывающий функцию Софии, – "эхоборг" (echoborg), то есть живой человек, на время "одалживающий" роботу свой речевой аппарат. Все произносимые ей слова генерируются программой-собеседником в интернете и подаются в звуковой форме на незаметный наушник в ее ухе.



Описание эксперимента чем-то напоминает научно-фантастическую антиутопию. В действительности же он преследует весьма серьезную цель.

Исследователи из Лондонской школы экономики хотят понять, как внешний вид и поведение существа с искусственным интеллектом могут влиять на наше к нему отношение. Это важно, поскольку со временем, по всей вероятности, мы окажемся в окружении машин, внешне неотличимых от человека, и необходимо заранее знать нашу возможную реакцию на сосуществование с ними.

"Большинство образцов искусственного интеллекта, с которыми нам приходится иметь дело сегодня, снабжены механическим интерфейсом, поэтому их трудно спутать с живым человеком", - говорит один из исследователей, Кевин Корти. Ему пришла в голову идея объединить электронный интеллект с человеческим телом: "В этом случае, по нашему замыслу, люди действительно верили бы в то, что разговаривают с человеком из плоти и крови".

Корти и его научный руководитель Алекс Гиллеспи вдохновились работой на тему так называемых сираноидов, которую провел Стэнли Милгрэм – психолог, чьи эксперименты нередко вызывали неоднозначную реакцию.

В наиболее известном из своих опытов Милгрэм поручил одним участникам подвергать других ударам электрического тока, постепенно повышая напряжение. Даже когда испытуемым казалось, что разряды начинают причинять их жертвам очень болезненные ощущения, многие из них продолжали эксперимент.
Когда контроль над человеческим телом получает компьютерная программа, происходят весьма необычные вещи

Получается, что человеку проще причинить вред другим, чем поставить под сомнение авторитет начальства.

Однако под конец жизни Милгрэм заинтересовался более гуманным аспектом нашего восприятия человеческого тела, которое мы видим перед собой. Он задался вопросом: действительно ли мы слушаем то, что говорит наш собеседник, или же наше мнение о нем предопределено исключительно впечатлением о видимых проявлениях его поведения?

Чтобы это выяснить, Милгрэм решил поставить опыт, основанный на фрагменте из пьесы XIX в. "Сирано де Бержерак". Сирано – опытный воин, остроумный поэт и искусный музыкант, но считает себя слишком безобразным, чтобы завоевать сердце прекрасной кузины Роксаны.

Главный герой помогает соблазнить Роксану своему красивому, но недалекому сопернику Кристиану, подсказывая ему, какие именно слова нужно говорить. В самой известной сцене пьесы Сирано прячется в кустах, тихонько нашептывая Кристиану прелестные глупости, которые тот вслух повторяет Роксане, внимающей с балкона.

Милгрэм подумал, что эксперимент такого рода стал бы идеальным способом проверить, насколько внешний вид человека влияет на наше восприятие его ума. В серии опытов, поставленных им, сираноиды (как Милгрэм окрестил подопытных) получали реплики от человека, находившегося в другом помещении, через вставленный в ухо миниатюрный радиоприемник.

Как и Роксане из пьесы, собеседникам сираноидов не было известно об этой подробности эксперимента.

Милгрэм с удивлением обнаружил, что большинство людей, проведя добрых 20 минут в беседе с сираноидом, так и не замечали подвоха. "Мы просто не способны заметить, что все произносимые нашим собеседником фразы исходят не от него, а от удаленного источника", - писал он.

Затем Милгрэм начал усложнять условия экспериментов - так, он решил узнать реакцию людей на собеседника-подростка, реплики которому подсказывает пожилой профессор.

Милгрэм скончался в 1984 г., не успев завершить исследование, и все забыли о сираноидах на добрых два десятилетия - до тех пор, пока Гиллеспи не решил продолжить работу в этом направлении.

В одном из первых опытов он воспроизвел эксперимент Милгрэма с подростком. Гиллеспи сам сыграл роль невидимого подсказчика, а в качестве "ретранслятора" выбрал 11-летнего мальчика, которому задавала вопросы целая группа взрослых.

Исследователь поразился снисходительности собеседников подростка. "Мне задавали вопросы о графене, об американском писателе Генри Джеймсе, о смерти Маргарет Тэтчер, о текущем финансовом кризисе. После чего взрослые сделали вывод о том, что сидящий перед ними ребенок довольно развит интеллектуально, и, вероятно, его психический возраст составляет около 15 лет", - вспоминает он.
Живые зомби

Напрашивается вывод о том, что мы очень плохо отличаем поведение людей, действующих по собственной воле, от поведения "зомби", выполняющих чьи-то команды.

"Каким бы очевидным ни было несоответствие между внешним видом и интеллектом человека, люди склонны его не замечать", - говорит Корти. Иными словами, мы больше судим человека по одежке, чем по глубине его мыслей.

К такому заключению можно отнестись скептически, но я и сам попался в эту ловушку, когда во время посещения лаборатории <span >Гиллеспи познакомил меня с Корти.

Стоявшая передо мной молодая женщина абсолютно не походила на фотографии Кевина, которые я видел ранее. Возможно, подумал я, передо мной транссексуал? На самом деле Кевин в тот момент находился в другом помещении, а я разговаривал с Софией (в жизни София - студентка Лондонской школы экономики; она ставит и собственные эксперименты подобного рода).

Мне стало очевидно, насколько легко попасть в плен иллюзии сираноида, даже если знаешь, в чем заключается секрет: одного лишь знания недостаточно.
Так называемые сираноиды говорят и действуют под диктовку других

После первых удачных опытов Корти и Гиллеспи решили усложнить эксперименты, и именно тогда им пришла в голову идея: "Мы подумали – а что если реплики сираноиду будет подсказывать не человек, а компьютерная программа?"

Так появился эхоборг - новый вид сираноида, или человек, ретранслирующий фразы, подсказанные виртуальным собеседником.

Таким образом Корти рассчитывал заглянуть в будущее, в котором роботы будут внешне напоминать людей с большой степенью реалистичности. "Мы еще очень далеки от создания совершенного человекоподобного интерфейса, но уже сейчас можно соединить ум машины с телом человека и посмотреть, что из этого выйдет", - говорит он.

В одном из таких экспериментов испытуемых не предупредили о том, что они будут разговаривать с роботом. Как и предсказывал Милгрэм, даже после продолжительных бесед с эхоборгом у них так и не возникло никаких подозрений.

"В подавляющем большинстве случаев участники эксперимента не догадывались о том, что разговаривают с компьютерной программой. Они просто предполагали, что у собеседника есть определенные проблемы с коммуникацией. Но им ни на секунду не пришло в голову, что они разговаривают с гибридом человека и машины", - говорит Корти.

В научно-фантастических произведениях - включая и недавний телесериал "Люди" (Humans) - часто ставится вопрос о том, смогут ли роботы когда-либо интегрироваться в человеческое общество до такой степени, что мы больше не в состоянии будем отличить их от живых людей.

Эксперименты Корти наводят на мысль о том, что даже при нынешнем уровне развития искусственного интеллекта нас уже проще обвести вокруг пальца, чем можно было бы предположить.

Впрочем, имеется один нюанс. В какой-то момент исследователи решили воспроизвести классический тест Тьюринга, предназначенный для оценки способности искусственного разума сойти за живого человека до такой степени, что собеседник не сможет опознать в нем компьютерную программу.

При этом участников эксперимента оповестили о том, что тот, с кем они будут разговаривать, может являться роботом - и предложили им угадать, так ли это на самом деле.

В этой ситуации – с использованием живого интерфейса – вероятность того, что виртуальный собеседник успешно пройдет тест и будет принят за человека, оказалась ниже, чем в классическом тесте с использованием компьютерного экрана в качестве интерфейса. "В ситуации живого общения наши ожидания от собеседника выше", - отмечает Гиллеспи.

Это в своем роде парадокс: если мы не знаем, что, возможно, разговариваем с компьютерной программой, мы склонны списывать странности поведения собеседника на его индивидуальные особенности. Но как только мы узнаем о том, что перед нами может быть не человек, мы становимся особенно критичными ко всем изъянам в коммуникации с его стороны.

"Искусственный интеллект может быть невероятно умным, но наше знание о том, что он не является человеком, способно отбить у нас желание общаться с ним в человеческом понимании этого слова", - говорит Корти.
Зловещие или неуклюжие?

Гиллеспи особенно интересуется дилеммами, связанными с разговором лицом к лицу с собеседником. "В таких ситуациях нельзя просто прервать разговор на полуслове и удалиться, - говорит он. - Есть определенные правила этикета, и людям неловко их нарушать, в то время как при разговоре с кем-нибудь по интернету такого чувства не возникает".

Я понимаю, о чем он говорит. В разговоре со мной Софии удавалось вести непринужденную беседу. Например, у нас состоялся следующий диалог:

Я: Что нового в мире?

София: По сообщению Би-би-си, Великобритания собирается провести референдум о выходе из ЕС – правда, не 5 мая.

Я: Хорошо. Теперь спросите о чем-нибудь меня.

София: Какая ваша любимая музыкальная группа?

Я: Я не большой поклонник групп, мне нравятся поэты-песенники - например, Джони Митчелл.

София: О, я обожаю Джони Митчелл. Она частенько заходит сюда к нам.

Если бы этот разговор происходил в интернете, Софии не составило бы труда меня одурачить (хотя, возможно, я и заподозрил бы, что она привирает). Но при живой беседе ее реплики казались несколько странными, а любая задержка с ответом с ее стороны становилась невыносимой.

В ситуации разговора в чате я бы не испытывал по этому поводу таких сильных эмоций.

Гиллеспи полагает, что роботы будущего могут столкнуться с проблемой сродни эффекту "зловещей долины" (uncanny valley), суть которого в том, что по мере возрастания реалистичности компьютерной анимации человеческие персонажи кажутся зрителям все более отталкивающими.

Этот феномен можно наблюдать в ряде фильмов с широким использованием компьютерной графики. Если же добавить жутковатые ощущения от разговора с компьютерной программой, отталкивающий эффект может только усилиться.
Судим ли мы о роботах по их интеллекту или внешнему виду?

"По мере того, как искусственный интеллект все больше приближается к полной имитации человеческого разума, он становится не просто зловещим, а неуклюжим. Возможно, имеет смысл вести речь о своего рода неуклюжей долине", - говорит он.

Как бы странно это ни звучало, нашей основной эмоцией по отношению к роботам будущего может стать не ужас, как предсказывают научные фантасты, а чувство неловкости за другого.

Если не преодолеть эту проблему, искусственному интеллекту не стать частью нашей повседневной жизни - вот почему Корти и Гиллеспи намерены продолжать эксперименты с эхоборгами.

"Я считаю, что мы находимся на переднем крае науки, - утверждает Гиллеспи. – Люди часто говорят, что наше развитие зависит от технологии, но это не так. Прогрессом движет общественное мнение. Людям решать, выйдут ли разумные роботы на улицы наших городов в роли полицейских, например, поэтому для того, чтобы понять, как общество отнесется к массовому появлению искусственного разума в нашей жизни, требуется провести большой объем работ".

Возможно, эти эксперименты дадут ответ и на вопрос, что значит быть живым человеком.

Представьте себе, что существует робот, внешне выглядящий как эхоборг София, но отличающийся от программы-собеседника способностью вести беседу не хуже человека.

"Есть ли что-то кроме нашего поведения, что делает нас людьми? - задается вопросом Корти. - Ведь если машины способны копировать нашу внешность и особенности поведения, почему бы не назвать людьми и их?"

 

Поделитесь в социальных сетях

Комментарии 26

1 2 3 »
0  
minskaya 03.08.2015 13:13 [Материал]
Ты знаешь, очень глубоко видишь и судишь. Не прослушав лекции Переслегина(это не книга а лекции в Сколково) я бы тебя просто не поняла.
Мои личный выбор--стенания слабого человека, ибо второй путь мне омерзителен. Причем настолько, что я скорее откажусь от жизни и продолжения рода.
Но я ищу третий путь. И верю, что слабая половина человечества еще раз разделиться и выдвенет квинтесенцию нейкого нового технологического уклада не противоречащего духовному. Я не верю, что подавляющее большинство "выдающегося сознания" присоединиться к технологическом Франкенщтейну во главе с капиталом(или во главе с посткапиталом)
0  
minskaya 03.08.2015 13:03 [Материал]
спасибо за ответ Шин. Полностью тебя поддерживаю.
0  
Bad4 03.08.2015 08:23 [Материал]
Кажись до меня дошло.(!) В то время, пока все дружно обсуждают понятие - Бог, человек, машина.
Нам всем, чтоб не сильно испугать, показали истинное положение вещей. А именно - готового дроида, который изображает человека изображающего дроида.
0  
minskaya 03.08.2015 01:23 [Материал]
И все же уточню: ты не приверженец эпохи пост человека, как машины\киборка\ИИ и прочего. Или наоборот приверженка?? wacko wacko Прости за мой тупой вопрос. Почему то я тебя считала именно приверженкой трансгуманизма и понятия постчеловек.
0  
minskaya 03.08.2015 01:18 [Материал]
Отпишусь сразу, цитирую Сергея Переслегина, аналитика-прогнозиста оригинального склада ума.
Повторюсь--одни идут по пути науки(саинс--наука)при этом не ограничивая себя ни религиозными ни нравственными рамками. Это приведет нас к киборгизации, унификации, чипизации и переходу от биологического вида к нейкому новому технологизированному. Понятие бог, добро и зло, любовь, семья, нравы, предел(табу)--будут утеряны

Второй путь--Язычники. Если Системный Кризис Человечества не будет преодолен технически по невозможности или по нежеланию, то всегда возможен откат в прошлые эпохи. Упадок знаний и технологий. Монотеистическим реллигиям здесь не выжить. Слишком они человечные. А вот Языческим--вполне! Мировоззрение погрузиться в неоэллинизм. Понятие человечества как такого--исчезнет. Ибо термин человечество--это христианское понятие.
Третий путь--в новой Моно(теистической и гностической) ИДЕЕ, ПУТИ. Что позволит нам не опускаться в варварство раз, но и удержаться от перегибов приверженцев чистой науки.
Сохранить понятие человечества и понятие Человека! Ибо киборг и ИИ не человечество и не Человек.
Это может прийти из постэлинской цивилизации номер один. Россия, приемница Византии, а Византия--это постэллинизм №1 wink
Но эта ИДЕЯ будет рождаться в муках. Не ждите этого быстро и скоро.
0  
minskaya 02.08.2015 23:23 [Материал]
Шин, но ты сама этому противишься? Твоя семья в градации "не достать уже" или "по образу и подобию"
Я вот сопротивляюсь, но каток скоро по моим детям пройдется, как только в школу нос покажут wacko
0  
minskaya 02.08.2015 23:16 [Материал]
как ты хорошо и складно сказала.
Это будущее, предложеное нам европейской цивилизацией. Так называемые саинтисты.
Есть еще другое направление--язычники, с желанием сделать будущее как прошлое. Так им более понятен мир.

Возсожен еще третий путь. О котором умалчивается. Умалчивается потому, что его развитие возможно лишь в цивилизации, где никогда не было жесткого противопоставления одного другому. Где всегда было место третьему--нетривиальному.
Угадайте, что это за цивилизация? wink biggrin
0  
msozzy 02.08.2015 21:16 [Материал]
Да бряхня все это . Нет алгоритмов связи с мозгом . Во первое мозг аналоговый , во вторых куда подоткутся не вариант . Если вам забили гвоздь в голову и вы дернули ногой - это не значит что вы подключились к нему . Все сообщения чистейшая ложь и нет математической теории работы мозга . Так и ИИ не возможен - он просто будет выполнять циклф , а коли ему создадут задачу свои циклы составлять то он просто запутается . Возмите логику женщины и все поймете .
0  
kiskamau 02.08.2015 18:46 [Материал]
В контакте, в контакте...)))
0  
kiskamau 02.08.2015 18:31 [Материал]
А зачем мне телешоу, когда есть живьём?))) Сама вижу, изучаю...
1-10 11-20 21-21
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
Последние комментарии
Не ищите инопланетян на других планетах, они уже здесь - на Земле
Да вот именно. Каждую букашку пролетающий перед об (от Кулибин)
Наводнения, пожары, оползни: что происходит с планетой?
на тему как слезть с жопы 3,4,5! во мне тройкалитр (от н-Стожар)
Илон Маск рассказал, что корабль Starship способен вернуть "Хаббл" на Землю
Понятно,этот чувак молодец! Он может менят мир к л (от turkmen76)
Не ищите инопланетян на других планетах, они уже здесь - на Земле
Я сам снял такое НЛО - случайно. Шел по лесу в 201 (от ranon)
Ученые получили ключ к разгадке тайны рождения планет и лун из звездной пыли
удивительно. Увидеть планету за 400 световых лет.. (от ranon)