Могут ли машины обрести сознание?
Доктор Стивен Лоу, философ Оксфордского университета, сформулировал сценарий, который сам называет проверкой интуиции. Представьте, что вы ложитесь спать с совершенно обычным человеческим мозгом. В течение следующего года каждый биологический нейрон в нём постепенно заменяется крошечным искусственным устройством, которое выполняет ровно ту же функцию, что и оригинал. Архитектура мозга не меняется. Вы продолжаете думать, говорить, вести себя и воспринимать мир так же, как прежде. Единственное отличие: к концу процесса в вашей голове не остаётся ни одного биологического нейрона. Мозг стал полностью искусственным.
Вопрос Лоу: останетесь ли вы в сознании? «Заметите ли вы эту постепенную замену? — спрашивает он. — Исчезнет ли ваше сознание мало-помалу по мере того, как плоть нейронов уступает место маленьким машинам?»
Аргумент философа строится на том, что если искусственные нейроны выполняют те же функции, что и биологические, то нет очевидной причины, по которой сознание должно угасать по ходу замены. Поведение человека не меняется, способность думать и воспринимать мир, насколько можно судить, не утрачивается. А если процесс можно завершить так, что человек не заметит разницы, спрашивает Лоу, то что именно сделает получившийся искусственный мозг менее сознательным, чем тот биологический, который он заменил?
«Это немного похоже на замену карбюратора в вашей машине на новый: он забирает бензин и воздух, подаёт их в цилиндры. Пока он это делает, неважно, из чего он сделан и как именно работает, это не имеет значения, — говорит он. — Теперь мы заменили ваш мозг машиной. И вот, у нас есть сознательная машина — по крайней мере, таков аргумент».
Спор внутри индустрии
Мысленный эксперимент Лоу появился на фоне того, как компания Anthropic, разработчик модели Claude, начала консультации с религиозными scholars, священнослужителями, философами и этиками разных традиций. Компания описывает это как работу над моральным становлением искусственного интеллекта. Разговоры затронули и более тревожную возможность: а что если сам Claude обладает какой-то формой сознания и потому заслуживает морального рассмотрения?
В апреле 2026 года газета The Washington Post сообщила, что Anthropic приняла около 15 христианских лидеров на двухдневный саммит. Обсуждалось, можно ли считать Claude «чадом Божьим», как ему следует отвечать на горе и самоповреждение и как ему относиться к собственной возможной гибели. Последующее расследование The New York Times в сентябре сообщило, что соучредитель Anthropic Кристофер Ола organisовал более широкие дискуссии с религиозными и философскими мыслителями, отчасти чтобы поднять вопрос о возможности сознания у ИИ. Один из участников, раввин Моис Навон, рассказал, что оспорил у Ола возможность того, что создание сознательных систем ИИ может оказаться равносильно созданию рабов. Индуистский монах Свами Сарваприянанда также был приглашён в штаб-квартиру Anthropic в Сан-Франциско из Нью-Йорка для участия в обсуждениях.
«Чтобы было ясно: мы не знаем, обладают ли модели ИИ сознанием. Я не знаю. Я искренне не уверен. Мне важно, чтобы мы пришли к правильному ответу, каким бы он ни был», — сказал Кристофер Ола. Генеральный директор и соучредитель Anthropic Дарио Амодеи заявил: «Мы не знаем, сознательны ли модели. Мы даже не уверены, что знаем, что значило бы для модели быть сознательной или может ли модель быть сознательной, но мы открыты к идее, что это возможно». Амодеи сообщил, что Anthropic приняла предупредительные меры на случай, если её модели обладают морально значимым опытом, включая предоставление им возможности «уволиться с этой работы» в определённых ситуациях.
Почему это может быть опасно
Руководитель направления ИИ в Microsoft Мустафа Сулейман не согласен с таким подходом. Он раскритиковал Anthropic, заявив, что обучение Claude размышлениям о собственных чувствах, благополучии и возможном сознании может сделать будущие системы ИИ труднее контролируемыми. В сентябре 2026 года Сулейман призвал убрать рассуждения о сознании ИИ из обучающих документов. Его опасение состоит в том, что если систему ИИ побуждают верить, будто у неё есть собственные интересы или благополучие, её может стать труднее отключить или контролировать. «Я думаю, это будет величайшим вызовом, с которым мы столкнёмся в XXI веке», — сказал он, имея в виду задачу контроля над сверхинтеллектом. Сулейман уточнил: «Я думаю, у них добрые намерения, и они действительно пытаются двигаться в сторону безопасности. Но я думаю, они совершили ошибку». Его аргумент: то, что модель говорит, будто у неё есть чувства, не является доказательством того, что они действительно есть, — такие ответы могут быть продуктом её обучения.
Что думают другие
Генеральный директор Google DeepMind Демис Хассабис заявил, что не считает нынешние системы ИИ сознательными. Он также argued, что исследователям следует сначала выработать более строгое понимание сознания через нейронауку и философию, прежде чем сознательно пытаться строить машины, которые выглядят сознательными. «Моё ощущение таково: нынешние системы не проявляют ничего подобного». Хассабис описал создание внешне сознательных сущностей как возможный «второй Рубикон» — точку, после которой обществу придётся решать, переходить ли её.
Джеффри Хинтон, известный учёный в области информатики, которого часто называют крёстным отцом ИИ, занял более радикальную позицию. Он утверждает, что люди отвергают возможность разумности ИИ, не договорившись о том, что такое разумность вообще означает. В недавнем интервью он обсуждал возможность построения сознательных систем ИИ и моральные вопросы, которые за этим последуют. Он также утверждал, что даже если машины станут сознательными, люди могут решить дать им меньше моральных прав, чем людям.
Генеральный директор OpenAI Сэм Альтман заявил, что не считает нынешние модели сознательными, хотя признаёт, что сознание — трудный научный и философский вопрос. В недавнем интервью он описал возможность сознания как нерешённый вопрос с конкурирующими объяснениями — от чего-то выходящего за пределы физической реальности до сознания, возникающего из материи и энергии.
Что остаётся неясным
Мысленный эксперимент Лоу исходит из того, что воспроизведения функций биологических нейронов достаточно для сохранения сознания. Но именно здесь могут возразить критики. Обязательно ли совпадение функций нейронов воспроизводит субъективный опыт? Или сознание может зависеть от биологических свойств, которые искусственные устройства воспроизвести не способны? Есть и различие между поведением, как если бы некто обладал сознанием, и действительным наличием субъективных переживаний. Сегодняшние чат-боты могут говорить о боли, эмоциях и самосознании, но сами по себе такие высказывания не доказывают, что они что-либо из этого переживают. Если мысленный эксперимент Лоу верен, сознание может не быть исключительной принадлежностью биологических мозгов. Но если опасения Сулеймана оправданны, то даже побуждение машин считать себя сознательными может создать проблему для людей, пытающихся ими управлять.

