Новые технологии заставляют нас задуматься об этике воскрешения людей из мертвых

Представьте, что у вас есть близкий друг, с которым вы часто общаетесь по СМС. Однажды он внезапно умирает. Вы радуетесь, плачете, посещаете его похороны. Затем вы решаете взять телефон и отправить ему сообщение, как в старые добрые времена.

"Я скучаю по тебе", - пишете вы. Внизу экрана появляется окошко с ответом. "Я тоже по тебе скучаю", - приходит ответ. Вы продолжаете переписываться. Как будто он никогда и не умирал.

Возможность цифрового общения с кем-то из потустороннего мира больше не является предметом научной фантастики. Технология создания убедительных цифровых суррогатов умерших уже здесь, и она быстро развивается, а исследователи прогнозируют ее широкое распространение в течение десятилетия.

Но как насчет этики тяжелой утраты и личной жизни умершего? Разговор с любимым человеком вызывает мощный эмоциональный отклик. Возможность делать это после смерти близкого человека неизбежно повлияет на процесс горевания человека таким образом, который мы только начинаем изучать.

В прошлом году нейробиологи и философы рассуждали о возможности создания, скажем, цифрового дубликата вашей бабушки. Эта копия могла бы существовать в своего рода виртуальном Элизиуме, имея возможность по скайпу принимать участие в обедах на День благодарения спустя долгое время после ее смерти. Но Хоссейн Рахнама из Университета Райерсона и MIT Media Lab работает над чем-то более реальным, чем мысленные дубликаты: чат-боты, созданные на основе персональных данных.

"Через пятьдесят или шестьдесят лет [миллениалы] достигнут того момента в своей жизни, когда каждый из них соберет зеттабайты [1 триллион гигабайт] данных, что как раз необходимо для создания цифровой версии себя", - говорит Рахнама.

Называя это "дополненной вечностью", программа ИИ Рахнамы опирается на цифровой архив, оставленный человеком: электронные письма, тексты, твиты и даже снэпчаты. Он подает их в искусственные нейронные сети, которые представляют собой модели мозга, понимающие языковые шаблоны и обрабатывающие новую информацию. Благодаря способности нейронной сети "думать" самостоятельно, "цифровое существо человека продолжает развиваться после того, как физическое существо ушло из жизни". Таким образом, бот дополненной вечности будет оставаться в курсе текущих событий, вырабатывать новые мнения и становиться сущностью, основанной на реальном человеке, а не на факсимиле того, кем он был в момент смерти.

Общение с призраками

Программы дополненной вечности Рахнама все еще находятся в разработке, но другой исследователь создал несколько иной рабочий прототип. Евгения Куйда, соучредитель российского ИИ-стартапа Luka, в прошлом году запустила в своем приложении программу, которая позволяет публике общаться с Романом Мазуренко, лучшим другом Куйды, погибшим в автокатастрофе в 2015 году. Цель Куйды заключалась в том, чтобы использовать технологию "цифровой жизни после смерти" для создания мемориала в виде чат-бота, доступного для всех желающих пообщаться с Романом. Но у нее были свои сомнения.

Цифровое существо человека продолжает развиваться и после того, как физическое существо ушло из жизни.

"Я волновалась: Смогу ли я правильно выбрать тон, сможем ли мы сделать что-то, что поможет сохранить память о человеке и не будет оскорбительным для всех, кто знал и любил Романа?" - говорит она. "Я боялась ошибиться, сделать это не красивой памятью о друге, а чем-то жутким и странным".

При жизни Роман интересовался способностью технологий "нарушать смерть". Он был очарован причудливыми последствиями того, что его "переживет" огромный архив цифровой информации, которую мы создаем на этом смертном витке. Поэтому Куйда решил, что Роман - идеальный кандидат для этого экспериментального мемориала, и приступил к созданию бота. После завершения работы она была поражена и обрадована тем, что снова ощутила остроумие своего друга. Romanbot выразил неуверенность Романа, его поэтический взгляд и самокритичное чувство юмора. Бот был настолько убедителен, что даже заслужил одобрение матери Романа.

Но хотя чат-боты хорошо имитируют речь своих предков, они не являются удовлетворительной заменой реальных людей. "Это скорее тень человека", - говорит Куйда. "На данном этапе это похоже на то, как если бы мы разговаривали с богом, или представляли, что разговариваем с кем-то, кого потеряли, или даже разговаривали с психотерапевтом".

Поклонники научно-фантастического сериала "Черное зеркало" могут узнать похожую ситуацию в эпизоде 2013 года под названием "Be Right Back". В этой истории вдова использует сервис для сбора цифрового следа своего умершего партнера (тексты, электронные письма, фотографии, аудиозаписи), чтобы воссоздать его сначала в чат-бота, способного обмениваться с ней текстовыми сообщениями, а затем, в конце концов, в реалистичного андроида. Повествование наводит на мысль, что попытки сохранить наших близких в цифровой загробной жизни приведут к болезненным последствиям. Также возникает вопрос, не будет ли сервис, способный превратить умершего человека в чат-бота, входить в этическую серую зону, вмешиваясь в нашу способность воспринимать реальность смерти.

Скорбь по цифровым мертвецам

Андреа Варник - консультант по вопросам скорби и танатолог из Торонто, изучающая научные, психологические и социальные аспекты смерти. Она видит потенциальное терапевтическое применение технологии цифровой загробной жизни - не обязательно в том, что она позволит нам общаться с потерянными близкими, но в том, что она будет способствовать разговорам об умерших в кругу их друзей и родственников, переживших утрату.

"В современном обществе многие люди не решаются говорить о тех, кто умер, боясь расстроить скорбящих, поэтому, возможно, важность продолжения обмена историями и советами с теми, кто умер, - это то, чему мы, люди, можем научиться у чатботов", - говорит она.

Западному обществу не помешало бы напоминание о том, что если кто-то умер, это еще не значит, что его больше нет".

Варник говорит, что общепринятый совет заключается в том, что люди должны "жить дальше" после смерти. Но она считает, что западному обществу не помешало бы напоминание о том, что если кто-то умер, это не значит, что его больше нет. "Однако, учитывая общий дискомфорт нашего общества по поводу смерти и горя, у меня есть опасения, что они могут быть использованы не по назначению, что может привести к ситуациям, в которых люди будут еще больше отчуждены в процессе горевания", - добавляет Варник.

Остается надеяться, что чат-боты не подорвут важность человеческого общения и поддержки скорбящих; что яркий и часто некомфортный эмоциональный труд по уходу за скорбящими не будет полностью передан ботам. В конце концов, смерть вскоре может стать наиболее очевидной вещью, отличающей человека от развивающегося ИИ, и отдаление от ее суровой реальности не кажется прозорливым способом улучшить наши отношения со смыслом жизни.

Конфиденциальность также является вопросом, актуальным для цифровых программ загробной жизни. Хотя Куйда верила, что Мазуренко благословит ее проект Romanbot, она также создала его с объемом данных гораздо меньше зеттабайта. Именно этот объем, по мнению Рахманы, является решающим для того, чтобы всезнающий бот был способен быть и всеоткрывающим. "Мы должны учитывать частную жизнь человека, когда речь идет о передаче виртуальных профилей", - говорит Рахмана. "Вы должны иметь возможность владеть своими данными и передавать их только тем людям, которым вы доверяете, поэтому позволить людям общаться со своими предками было бы вполне вероятно".

Даже по мере того, как цифровые технологии загробной жизни совершенствуются, предлагая все более точные симуляторы наших умерших, их самым важным качеством может быть не имитация того, что мог бы сказать тот, кого мы любим, а способность создать иллюзию того, что он слушает нас. "Дело не в том, что мы слышим, а в том, что мы говорим", - говорит Куйда.

Таким образом, чат-боты могут предоставить скорбящим пространство для выражения мыслей и чувств о своих близких как наедине, так и в рамках своих сообществ. Со временем это может помочь нормализовать разговоры о смерти и интенсивности скорби.

Разговор с кем-то из потустороннего мира может показаться жутковатым. Но это может в какой-то степени утешить ваших близких. Это как высокотехнологичный эквивалент создания альбома или написания писем для ваших детей, которые они смогут открыть, когда вы уйдете из жизни.

Кроме того, не так страшно думать о смерти, когда знаешь, что ты не исчезнешь в пустоте, а останешься, в некотором смысле, в сердцах и текстовых разговорах тех людей, которых ты любил больше всего.