Загадочная причина, по которой искусственный интеллект никогда не сможет сравниться с человеческим сознанием

Создание человекоподобного искусственного интеллекта часто начинается с деконструкции человека. Возьмем отпечатки пальцев: Когда мы держим мыльную посуду, мы интуитивно регулируем захват, основываясь на структуре отпечатков пальцев. Это просто не приходит нам в голову, потому что мы считаем это рефлексом - и долгое время так же считали ученые. Ни у кого не было никаких уравнений, чтобы разгадать, как это работает, потому что это не имело большого значения. Но развитие робототехники усложнило ситуацию.

Чтобы робот мог это сделать, нужно точно понять, что происходит, и даже превратить эти знания в записываемый код. Теперь расшифровка отпечатков пальцев имеет значение, и исследователи наконец-то пытаются найти новый закон физики, объясняющий это. 

В некотором смысле, физические знания и возможность кодирования человеческих черт являются предпосылками для программирования роботов... что открывает важный вопрос для будущего жизнеподобного ИИ. Существуют ли аспекты человеческого сознания, которые никогда не будут соответствовать этим критериям? По мнению некоторых философов, возможно. 

И после прочтения двух совершенно умопомрачительных мысленных экспериментов вы, возможно, согласитесь. А может, и нет. 

Чего не знала Мэри

Женщина по имени Мэри живет в маленьком домике. Она никогда не выходила из дома. Когда она смотрит вокруг своего жилища и из его окон, все кажется черным, белым или каким-то серым. Мэри не видит цвета, но она часто задается вопросом: "Что имеют в виду те люди в моем черно-белом телевизоре, когда говорят о красных розах?".

Предположим, что в комнате Мэри хранится волшебная библиотека. В этом гипотетическом месте находятся книги, содержащие все отрывки информации о красном цвете. И я имею в виду все. Чтобы утолить свою жажду знаний, Мэри читает их все.

Она узнает о длине электромагнитных волн красного цвета, о том, как малиновый заставляет людей чувствовать себя, о самых четких описаниях алого цвета, об аналогиях с вишней и обо всем остальном, что только можно придумать. И даже больше. Никто не знает о красном цвете больше, чем Мэри. Затем она заканчивает чтение... и решает выйти из дома. 

Ух ты!

К удивлению Мэри, она видит цвет. Она никогда не была дальтоником. Просто ее дом, мебель и электроника были построены в черно-белом цвете, а окна отражали внешний мир в монохроме. 

Затем происходит нечто важное. Мэри видит красное яблоко - цвет ее экспертизы. У нее отпадает челюсть. Она узнает что-то новое о красном цвете. Но... это странно. Почему эти знания не были где-то в ее библиотеке? Ведь там было все, что можно узнать о красном цвете, верно? 

Эта история - продолжение знаменитого мыслительного эксперимента 1986 года "Чего не знала Мэри" философа Фрэнка Джексона, а неосязаемые знания о красном цвете, которые Мэри только что собрала, называются qualia. 

Что такое квалиа?

Проще говоря, qualia определяет знание, достижимое только через сознательный опыт. 

Это похоже на субъективную информацию, которую вы получили, когда впервые услышали свою любимую песню. Возможно, вы почувствовали дрожь в позвоночнике и сказали своим друзьям: "Чтобы понять, нужно послушать". Волшебный взрыв их мозга глубинами теории музыки и акустической науки, вероятно, не поможет. Пока они не услышат ее, они не узнают песню так, как знаете ее вы.

Возможно, именно поэтому даже лучшие неврологи, психологи и поэты не могут объяснить боль разбитого сердца достаточно хорошо, чтобы тот, кто никогда не испытывал ее, понял ее по-настоящему. 

И, возвращаясь к Мэри, вся физическая информация о красном цвете в мире оказалась недостаточной для того, чтобы понять, на что действительно похож этот оттенок. "Когда ее выпустят из черно-белой комнаты или дадут цветной телевизор, она узнает, каково это - видеть, скажем, что-то красное", - пишет Джексон. "Это можно назвать обучением - она не будет говорить "хо, хум"". 

Несмотря на то, что эта теория выбрасывается уже много лет, она все еще остается довольно популярным аргументом в пользу того, что некоторые знания не поддаются описанию языком и являются уникальными для человеческого сознания. Это означает, что если qualia - реальная сила, то ее внутреннюю работу будет невероятно трудно записать, а значит, и запрограммировать. Это вполне может стать барьером между людьми и ИИ. 

С другой стороны, может быть, и нет. Может быть, мы сможем как-то расшифровать ее, как мы постепенно узнаем о динамике захвата отпечатков пальцев. 

Сможем ли мы? 

Короткий ответ: Мы не знаем. Эксперты спорят в обоих направлениях, а некоторые предлагают новые точки зрения. Но большинство застряло за гипотетическими стенами, и дело в том, что qualia не имеет научного объяснения.

Создание робота для исследования qualia 
Итак, из того, что я рассказал вам о Мэри, вы, вероятно, придумали несколько возражений против qualia. И вы не одиноки: Мыслительные эксперименты часто изобилуют лазейками, и комната Мэри - не исключение. 

Одни выдвигают контраргументы, что тени в комнате могли нести цветовые пигменты. Другие утверждают, что "волшебная библиотека" дала бы Мэри знания таким образом, который мы не можем себе представить. Что касается последнего, то увлекательное опровержение - и оно имеет поразительное отношение к нашему большому вопросу об ИИ - исходит от философа Дэниела Деннета.

В двух словах, Деннетт предполагает, что если бы Мэри действительно обладала всей информацией о красном цвете, разве она не была бы в некотором роде всезнающей? Она бы не просто знала о цвете, как обычный человек. Теоретически, она бы узнала о красном "qualia", если таковой существует, как часть своей литературы о красном, верно? И, исходя из этого, мы могли бы сделать вывод, что qualia действительно способна поднять уровень ИИ, но мы просто еще не придумали, как ее использовать. 

Что ж, возможно, но это похоже на тупик. Мы не можем знать наверняка, обладает ли Мэри такими способностями. Мы не всеведущи, поэтому мы даже не знаем, как эти способности будут выглядеть. Поэтому, говорит Деннетт, давайте забудем о том, что Мэри - человек, чтобы снять эти ограничения. 

Введите РобоМэри.

"Мышление в терминах роботов - полезное упражнение, поскольку оно избавляет нас от оправдания, что мы еще недостаточно знаем о мозге, чтобы сказать, что именно происходит, что может иметь значение, позволяя своего рода шерстяному романтизму о таинственных способностях мозга затуманивать наши суждения", - пишет Деннетт.

Что знает РобоМэри

Добро пожаловать в эксперимент номер два. 

РобоМэри является итерацией класса ботов под названием Mark 19, но, к сожалению, она была создана без цветного зрения и ожидает обновления. До тех пор "глаза", или видеокамеры, RoboMary передают информацию только в черно-белом цвете. 

"Черно-белые камеры РобоМэри прекрасно подходят для изоляции человеческой Мэри, и мы можем позволить ей бродить по своему желанию по журналам по психофизике и нейронауке, читая их глазами с черно-белой камерой", - пишет Деннетт. 

По сути, она просматривает свою собственную версию волшебной библиотеки". Но РобоМэри делает еще один шаг вперед. 

Она изучает, как работают цветные входы Mark 19, затем, "используя свои обширные знания, она пишет код, который позволяет ей окрашивать входные данные с ее черно-белых камер", - пишет Деннетт. Она изменяет себя так, как не может сделать человек Мэри. 

Эта новая настройка позволяет ей, например, посмотреть на яблоко своим черно-белым зрением, а затем точно представить его в виде правильного цветового кода для ботов Mark 19. РобоМэри начинает автоматически применять эту настройку ко всему, пока исследует мир. Но вот где она действительно выделяется. Она наблюдает за другими работающими Mark 19, изучает, как они реагируют на различные цвета, и настраивает себя соответствующим образом. 

На данный момент РобоМэри знает, что такое каждый цвет, и реагирует на них точно так же, как и любой другой Марк 19. 

Наступает важный день. Цветовые сенсоры РобоМэри начинают работать.

"Когда она, наконец, устанавливает свои цветные камеры, отключает программу колоризации и открывает глаза, она не замечает... ничего. На самом деле, ей приходится проверить, установлены ли у нее цветные камеры", - пишет Деннетт. "Она уже точно знала, что будет видеть цвета так же, как другие Марк 19".

У меня мурашки по коже при мысли об этом. Изменяя свои настройки, РобоМэри, похоже, смоделировала для себя qualia. Но я также не могу перестать представлять себе гораздо более страшную ситуацию. 

Что, если РобоМэри откроет глаза... и все будет по-другому?

Как люди, мы ограничены

Сага о Мэри на этом не заканчивается. 

Несмотря на тонны других изменений - некоторые из которых исходят от самого Джексона, чтобы уточнить первоначальный аргумент - вся работа Деннетта также невероятно тщательна. 

Он рассматривает бесчисленные возражения, которые могут возникнуть, когда вы думаете о Мэри и РобоМэри, а затем рассматривает сложный сценарий, который не позволяет РобоМэри вообще изменять свои настройки, чтобы проверить, сохраняется ли квалиа. Есть даже продолжение статьи Деннетта под названием "Что РобоДеннетт до сих пор не знает".

Но, как и во всех философских мысленных экспериментах, цель Мэри и РобоМэри не в том, чтобы сказать вам правду. Она заключается в том, чтобы заставить вас обдумать возможные варианты и найти истину самостоятельно. 

Вот несколько вариантов, которые я придумал: Возможно, ИИ должен быть создан так же, как РобоМэри, чтобы обрести квалиа. Или, возможно, роботов можно запрограммировать как сознательных в более широком смысле - то есть, если мы сможем найти способ математически объяснить сознание в целом. Потенциально "сознательный" робот мог бы исследовать мир так же, как и мы, и, следовательно, обрести квалиа, как и мы.

А может быть, квалиа - это не то, что мы думаем? История Джексона убедительно доказывает, что как только Мэри смотрит на красный цвет, что-то определенно происходит. Этому явлению дали название "qualia" и приписали, что оно связано с познанием чего-то нового, но что, если это комбинация многих вещей с разными названиями и не имеет ничего общего с познанием? 

Или... может быть, qualia действительно является неприкасаемым, непрограммируемым барьером между человеческим сознанием и искусственным интеллектом.

Эти точки зрения - лишь вершина айсберга, и с годами они могут быть (вероятно, будут) опровергнуты, если уже не опровергнуты. Но вспомните причину, по которой РобоМария была упомянута в первую очередь: чтобы представить себе сущность, превосходящую человеческие ограничения. 

Это надуманный мысленный эксперимент, потому что, как люди, мы ограничены. Мы можем только строить догадки.