Будут ли виртуальные люди счастливы?

Если вы когда-нибудь играли в ролевые игры — будь то онлайн или старомодный двор — вы знаете, как легко привязаться к своему аватару, то есть вжиться в роль «казака-разбойника». Вы буквально чувствуете боль, когда персонажа бьет тролль, поджаривает дракон или убивает шаман. Американский социолог (и заядлый геймер) Уильям Симс Бейнбридж завел эти отношения еще дальше, создав виртуальные представления 17 почивших членов семьи. В эссе на тему онлайн-аватаров 2013 года он предвидит время, когда мы сможем загружать свою личность в искусственную разумную симуляцию нас самих, которая сможет действовать независимо от нас и даже останется после нашей смерти.

Какого рода ответственность мы сможем возложить на этих смоделированных людей? Хотя мы с подозрением относимся к жестоким компьютерным играм, никто всерьез не считает убийством подрыв виртуального нападающего. Однако уже не абсурдно воображать, что однажды смоделированные люди будут существовать, а также обладать в некоторой степени автономией и сознанием. Многие философы считают, что разум вроде нашего не обязательно должен храниться в сети нейронов нашего мозга, а мог бы существовать в разного рода материальных системах. Если они правы, нет никаких причин полагать, почему достаточно мощные компьютеры не могли бы хранить сознание в своих микросхемах.

Сегодня многие нравственные философы пытаются осмыслить этику изменения человеческого населения и задаются вопросами вроде этих: какова цена человеческой жизни? Какого рода жизнь мы должны стремиться сформировать? Сколько ценности мы должны вкладывать в человеческое разнообразие? Но когда речь заходит об этике обращения с моделируемыми сущностями, не совсем понятно, стоит ли нам опираться на те же логику и интуицию, которые мы применяем в нашем мире из плоти и крови. Глубоко в душе мы чувствуем неправильным убивать собаку или даже муху. Но будет ли отключение модели мозга мухи — или человека — убийством? Когда «жизнь» принимает новые цифровые формы, наш собственный опыт больше не может выступать надежным нравственным спутником.

Эдриан Кент, физик-теоретик из Кембриджского университета, решил изучать эту лакуну в нравственных рассуждениях. Предположим, мы научились эмулировать человеческое сознание на компьютере дешево и просто, пишет он в одной из статей. Нам бы хотелось дать этому виртуальному существу богатую и полезную среду для общения — жизнь, которую стоило бы прожить. Возможно, мы могли бы проделывать такое с настоящими людьми, сканируя их мозг в мельчайших деталях и воспроизводя их на компьютере. Можно представить, как подобная технология «спасает» людей от смертельного заболевания; некоторые трансгуманисты видят в этом путь к бессмертному сознанию.

Конечно, все это может быть и несбыточной мечтой — но давайте допустим обратное. Теперь давайте достанем набор утилитарных нравственных принципов, представленных Джереми Бентамом в конце 18 века и впоследствии уточненных Джоном Стюартом Миллом. Учитывая все обстоятельства, говорил Бентам, мы должны стремиться нести максимальное счастье (или «полезность») как можно большему числу людей. Или, выражаясь словами Милла, «действия оправданы пропорционально тому, насколько они несут счастье, и не оправданы, если они приводят к отсутствию счастья».

У принципов хорошего поведения есть много критиков. Например, как мы можем измерять или сравнивать типы счастья — взвешивая ценность любви бабушки, например, на одних весах с восхищением виртуозным концертным пианистом? «Даже если вы хотите принимать утилитаризм серьезно, вы не знаете, какие качества, которые вы вкладывает в расчеты, действительно имеют значения», говорит Кен. Тем не менее, большинство систем верований сегодня по умолчанию признают, что моральный компас, указывающий в сторону большего счастья, однозначно более предпочтителен, чем тот, который смотрит от него.

По сценарию Кента, если исходить из утилитарных  побуждений, может возникнуть мнение,что мы обязаны двигаться вперед и множить наших смоделированных, или симулированных, существ — назовем их симами — без ограничений. В реальном мире такое неконтролируемое деторождение имеет очевидные недостатки. Люди будут страдать, эмоционально и экономически, имея большую семью; перенаселение уже оказывает давление на глобальные ресурсы, и так далее. Но в виртуальном мире таких лимитов может и не быть. Можно создать утопию с почти не ограниченными ресурсами. Почему же, в таком случае, нельзя создать столько миров, сколько возможно, и наполнить их радостными симами?

Наша интуиция подсказывает ответ: но зачем? Может быть, сознательный сим попросту не будет иметь такой же внутренней ценности, как человек из плоти и крови? Эту мысль высказывает Майкл Медери, специалист по философии сознания и этике виртуальной реальности из Университета Тулейн в Новом Орлеане, и считает, что к ней стоит отнестись серьезно.

Некоторые философы считают, что и мы сами можем быть подобными симулируемыми существами. Такую возможность мы попросту не можем исключить, но тем не менее считаем эти вопросы осмысленными. Поэтому можно было бы также предположить, что и симы имеют право задаваться вопросами.

Кент снова задает вопрос: как будет правильнее — создать популяцию идентичных существ или же совершенно разных? Очевидно, более эффективно было бы создавать идентичных существ — достаточно информации об одном, чтобы создать N таковых. Но наши инстинкты подсказывают нам, что в разнообразии есть смысл и ценность. И почему, интересно, если нет причин полагать, что N разных особей будут счастливее, чем N идентичных.


Подход Кента заключается в том, что разные жизни предпочтительнее нескольких копий одной. «Я не могу избавиться от мысли, что вселенная с миллиардом независимых идентичных эмуляций Алисы будет менее интересной и качественной, чем вселенная с миллиардом разных индивидов», говорит он. Он называет это понятие неполноценностью репликации.

Если рассматривать космос, населенный миллиардами Алис, стоит ли вообще говорить об одной жизни, размноженной много раз, или же мы говорим об одной жизни, распространенной на множестве миров. Из этого может следовать, что множество Алис в идентичной среде будут иметь ценности не больше, чем одна. Этот сценарий он называет бесполезностью репликации. «Я склоняюсь к этому мнению», говорит Кент, признавая, впрочем, что не может найти неопровержимого аргумента в его защиту.

Мысленный эксперимент Кента затрагивает несколько старых загадок нравственной философии, которые никогда не были разрешены. Английский философ Дерек Парфит, который умер в прошлом году, рассматривал их в своей монументальной работе над личностью и «я», «Причины и личности» (1984). Парфит размышлял над такими вопросами, например, сколько людей должно быть вообще, и всегда ли будет морально лучше добавлять жизнь, которую стоит прожить, в суету мира, когда нам выпадает возможность.

Даже если вы примете утилитарную точку зрения, будет проблема поиска наибольшего счастья для наибольшего числа: двойственные критерии создают двусмысленность. Например, представьте, что у нас есть контроль над тем, сколько людей живет в мире с конечными ресурсами. Можно было бы подумать, что должно быть некое оптимальное число людей, которое (в принципе) позволит использовать ресурсы наилучшим образом, чтобы обеспечить счастье и процветание для всех. Но разве в такой утопии не нашлось бы места для еще одного человека? Разве не было бы приемлемо уменьшить счастье всех на капельку, чтобы обеспечить еще одну счастливую жизнь?

Проблема в том, что у такого процесса нет конца. По мере роста цифр дополнительное счастье новых жизней может перевесить затраты тех, кто уже жив. В конечном итоге, говорит Парфит, вы приходите к «отвратительному выводу»: к сценарию, в котором лучшим результатом будет раздутое население людей, которые безнадежно несчастны, но в котором лучше, чем если бы не было никакой жизни вообще. В совокупности их скудные обрывки счастья составляют больше, чем сумма небольшого числа искренне счастливых обывателей. «Мне трудно принять этот вывод», писал Парфит, но можем ли мы оправдать такой подход? Кент не знает. «Я не знаю, может ли быть какое-нибудь взвешенное решение по отвратительному умозаключению», говорит он.

В корне этого вопроса лежит то, что Парфит назвал «проблемой неидентичности»: как мы можем размышлять рационально о вопросах обеспокоенных индивидов, если само их существование зависит от выбора, который мы делаем (вроде поиска места для «еще одного»)? Взвесить плюсы и минусы, которые могут повлиять на отдельную личность, в зависимости от принятых нами решений, в принципе, не так уж и сложно. Но если принимать во внимание возможность того, что этот персонаж мог никогда и не существовать, мы уже не знаем, как посчитать. По сравнению с нулем или небытием что угодно будет выигрышем, поэтому можно морально оправдать даже самые худшие сценарии существования.

В этой игре в утилитарную популяцию есть еще один очень странный сценарий. Что, если бы существовали люди с такой большой потребностью в счастье, что требовали бы от других больше, чем те могут позволить отдать? Американский философ Роберт Розик назвал такое создание «утилитарным монстром» и раскритиковал его в своей книге «Анархия, государство и утопия» (1974). По словам Нозика, эта картина «потребует от всех нас жертв в угоду монстру для повышения общей полезности». Большая часть книги Парфита была попыткой — безуспешной в итоге — сбежать как от отвратительного вывода, так и от утилитарного монстра.

Теперь давайте вернемся к виртуальным мирам Кента, полным симов, и его принципу неполноценной репликации — когда определенное число разных жизней стоит больше, чем такое же число идентичных. Возможно, это позволит нам избежать отвратительного вывода Парфита. Несмотря на то, что Лев Толстой сказал о неравенстве несчастных семей в начале «Анны Каренины» (1878), кажется, что огромное количество несчастных жизней будет почти одинаково в их мрачной грусти. Следовательно, их нельзя будет скомплектовать и по каплям увеличить общее счастье.

Но точно так же неполноценность репликации потворствует утилитарному монстру — по определению, он должен быть уникальным, а значит, более «стоящим», в сравнении с неизбежным сходством жизней, которые его питают. Такое решение нас также не удовлетворяет. «Было бы хорошо, если бы люди как-нибудь больше задумывались об этих вопросах», признает Кент. «Я в некотором недоумении от них».

Для американского либертарианского экономиста Робина Хэнсона — профессора экономики в Университете Джорджа Мейсона в Вирджинии — эти размышления являются не столько мысленными экспериментами, сколько предсказаниями будущего. Его книга «Эпоха Эм» представляет общество, в котором все люди загружают свое сознание в компьютере, чтобы прожить жизни в виде «эмуляций» (не симов, а эмов). «Миллиарды таких загрузок могли бы жить и работать в одном высотном здании, и места хватило бы всем», пишет он.

Хэнсон подробно рассмотрел, как могла бы работать такая экономика. Эмы могут быть любого размера — некоторые из них будут очень маленькими — и время для них может идти по-другому в сравнении с людьми. Будет тщательное наблюдение и маленькая зарплата, но эмы могут избавиться от этих страданий, выбрав жизнь без работы. (Хэнсон считает, что мы уже можем жить в таком мире).

Этот сценарий допускает возможность дублирования самого себя, поскольку разум уже был перенесен на компьютер, поэтому создание копий будет довольно-таки простым. Хэнсон говорит, что проблема идентичности в таком случае размывается: дубликаты — это «один и тот же человек» изначально, но постепенно их идентичность расходится, когда они начинают жить раздельно.

Хэнсон предполагает, что дублирование людей будет не только возможным, но и желательным. В грядущий век эмов люди с особенно ценными умственными способностями будут «загружаться» множество раз. И вообще, люди захотят сделать несколько копий себя в любом случае в качестве одной из форм страхования. «Они могут предпочесть избыточность в собственной имплементации, чтобы убедиться, что смогут пережить неожиданные катастрофы», говорит Хэнсон.

Но он не думает, что они предпочтут сценарий Кента об идентичных жизнях. Эмы «не будут придавать особой ценности проживанию одной и той же жизни в разное время и разных местах. Они будут вкладывать ценность в множество копий, потому что эти копии смогут работать или общаться с другими. Но такая работа и отношения будут требовать того, чтобы каждая копия была причинно независима, а их истории переплетались в зависимости от задач или как у партнеров».

В любом случае, эмам нужно будет бороться с моральными трудностями, переоценить которые мы пока не в состоянии. «Я не думаю, что нравственность, которая появилась у людей, является достаточно общей или надежной, чтобы давать уверенные ответы на подобные ситуации, которые так далеки от «опыта» наших предков», говорит Хэнсон. «Я прогнозирую, что эмы будут иметь множество разных конфликтующих мнений касательно таких вещей».
 

Сейчас все это может звучать очень странно, словно апокрифические средневековые беседы об ангелах, танцующих на носочках. Сможем ли мы когда-нибудь создать виртуальную жизнь, которая будет похожа на реальную вообще? «Не думаю, что кто-то сможет уверенно сказать, возможно это или нет», говорит Кент, отчасти потому что «у нас нет хорошего научного представления о сознании».

Даже если и так, технологии двигаются вперед, и эти вопросы остаются открытыми. Шведский философ Ник Бостром из Института будущего человека, утверждал, что вычислительная мощность, доступная «постчеловеческой» цивилизации, позволит с легкостью симулировать существ, которые живут в мире и ощущают его таким же реальным, как и мы свой. (Бостром также считает, что мы могли бы жить в такой симуляции). Но вопросы о том, как нам формировать популяцию таких миров, представляют «настоящую дилемму для программистов, ученых и законоделов будущего, хоть и не столь отдаленного», говорит Кент.

У сценария Кента уже могут быть последствия для реального мира. Аргументы о максимизации полезности и проблема неидентичности возникают в дискуссиях о продвижении и предотвращении человеческого зачатия. Когда следует отказываться от зачатия в случае риска, например, развития отклонений у ребенка? Ни один из новых методов не гарантирует полную безопасность и никогда не гарантировал, но ЭКО никогда бы не стали делать, если бы это было обязательным условием. Предполагается, что такая техника должна соблюдать определенный порог риска. Но утилитарный подход оспаривает эту мысль.

А что, если бы новый метод вспомогательного размножения имел бы умеренный риск появления небольших дефектов при рождении — например, родимых пятен? (Это реальный аргумент: рассказ Натаниэля Готорна 1843 года повествует об алхимике, который пытался,  с фатальными последствиями, убрать метку со своей жены, привел в пример совет по биоэтике США в 2002 году). Трудно сказать, что люди, отмеченные таким пятном, будут хуже других и поэтому не должны приниматься методом во внимание. Но где провести черту? Когда дефект при рождении лучше вовсе не воплощать в жизнь?

Некоторые упоминали эту дилемму, выступая в защиту клонирования человека. Будут ли опасности, такие как социальная стигма или искаженные родительские мотивы и ожидания, перевешивать преимущества предоставления жизни. Кто мы такие, чтобы делать выбор за клонированного человека? Кем мы будем, если будем делать этот выбор до того, как человек вообще будет существовать?

Подобные рассуждения, по-видимому, требуют от нас богоподобных решений. Но феминистичный наблюдатель мог бы подумать, что мы стали жертвой одной из версий фантазии Франкенштейне. Другими словами, разве это не горстка мужчин грезит идеей наконец-то начать фабриковать людей, когда женщины занимались этим испокон веков? Ощущение новизны, которое приводит к появлению всех этих споров, имеет патриархальный налет.

Даже если так, перспектива виртуального сознания поднимает весьма свежие и увлекательные этические вопросы — которые, по мнению Кента, заставляют нас оспаривать интуитивную ценность, которую мы помещаем в жизнь и демографию. Крайне сложно увидеть сильный аргумент в пользу того, что определенное количество разных жизней будет нравственно лучше такого же числа одинаковых. Почему же мы так думаем? Как нам избавиться от предубеждений?

Можно было бы сказать, что воспринимаемая гомогенность в человеческих популяциях разъедает способность к эмпатии и этическим рассуждениям. «Безликая» толпа, которой противостоит индивид — привычный штамп, который вызывает ощущение героизма. Но это не обязательно правильно.

Может быть, у нас есть эволюционное отвращение к одинаковым индивидам, особенно если учесть, что генетическое разнообразие популяции обеспечивает ее выживание? Просто вспомните фильмы про идентичных близнецов или клонов — это не всегда приятно выглядит. Выглядит даже зловеще. В 1919 году это ощущение Зигмунд Фрейд связал с идеей злого двойника (доппельгангера). И если в случае с идентичными близнецами это еще можно понять, сотня «идентичных» персонажей будет выглядеть ужасно.

Не похоже, что мы столкнемся с армиями дубликатов в ближайшее время, в реальном или виртуальном мире. Но ценность мысленных экспериментов заключается в том, что они дают вам новый способ осмыслить вопросы этого мира. Воображая этику наших отношений к симам, мы раскрываем шаткую или не существующую логику, которую используем инстинктивно, взвешивая нравственную ценность нашей собственной жизни.