Насколько велик риск погибнуть в восстании машин?

Учёные из Кембриджского университета намерены создать центр, который займётся оценкой риска уничтожения человеческой цивилизации роботами. Поторопились они или опоздали?

Нет, это вряд ли случится до 21 декабря 2012 года — если, конечно, Apple не выпустит завтра какую-нибудь железку под названием iGod.

Но в будущем шансы есть, оптимистично полагает группа учёных под руководством Хьюва Прайса (Huw Price) из Кембриджского университета (Великобритания). А предпосылки она видит уже сегодня. Массовое развитие автономных боевых роботов, пока находящихся лишь в стадии проектирования, вполне может закончиться тотальной роботизацией войны с последующим выходом системы из-под контроля. Эксплуатация же сюжета неграмотной, вседискредитирующей поп-культурой надёжно защищает такую ситуацию от тщательной проработки военными — или вообще кем бы то ни было. Хотя, отмечают учёные, здесь надо говорить уже не о предвидении, а о констатации факта: friendly fire («огонь по своим») со стороны БПЛА давно не новость, пока он лишь ограничен в масштабах. Строго говоря, перепрограммирование дронов противником в ходе боевых действий также не представляется чем-то нереальным, а от этого до восстания машин полшага.

iWarrior, конечно, на марше... (Фото iRobot.)

«Именно поэтому мы и создаём этот исследовательский центр (Центр исследования угроз существованию человечества, CSER) — чтобы привлечь внимание научного сообщества к проблеме», — заявил г-н Прайс в интервью Би-би-си. Хотя учёных волнуют и другие угрозы (глобальное потепление и пр.), анализ риска гибели людей в борьбе с разумными машинами представляется, пожалуй, самой новаторской темой из поднятых новорождённым учреждением.

Главной же проблемой им видится будущее. Уже к 2030 году умственные возможности искусственного интеллекта должны превзойти человеческие, уверяют нас («закон Мура неумолим»). А такой авторитет, как Ханс Моравек (Hans Moravec), директор Института робототехники Университета Карнеги — Меллона (США), прямо говорит: «В конечном счёте роботы превзойдут нас. Человечество явно столкнётся с вымиранием». В общем, примерно как в книжке, которую часто можно было найти в ранце убитого на Первой мировой немецкого солдата: «Человек — это верёвка, натянутая между зверем и Сверхчеловеком... Как чудесно, что человек является переходной ступенью своего развития, а не тупиковой ветвью». Только вместо ницшеанского юберменша мы, понятно, верёвка к роботам.

Главным аргументом у сторонников таких взглядов остаётся знаменитое восклицание Ферми в кафе: «Где все?» ("Where IS everybody?"). На такой почве вполне можно ожидать победы роботов: как только ИИ научится конструировать новых роботов лучше человеческих инженеров, наш вид будет обречён, ибо он всё более прогрессивно опирается как раз на ИИ, а последний, таким образом, нужду в человеческой поддержке потеряет.

…Но до терминальной стадии время, возможно, ещё есть (к/ф «Терминатор 3: Восстание машин»).

После тотальной роботизации, поджидающей все цивилизации выше определённой ступени, Великое радиомолчание Вселенной становится очевидным: роботы вряд ли заинтересованы в контакте с мыслящим куском мяса, a priori уступающим даже его собственным вымершим разработчикам, ведь иначе они давно создали бы своих роботов, которые сразу же положили бы конец псевдоразумным, столь безрассудно тратящим ресурсы на свои выдуманные потребительские нужды. Соответственно, парадокса Ферми нет, как и высокоразвитых биологических цивилизаций.

Страшно? Ну, тогда напомним об альтернативной теории. Все мы слышали о Рождере Пенроузе — а это и небезызвестный механизм, и теория твисторов, и теория сильной космической цензуры... Но сей многосторонний ум уже довольно давно предпринял интересную попытку критики таких опасений. Как он считает, «терминаторы» никогда не завоют Землю, ибо весь до сих пор творимый людьми «искусственный интеллект» так можно называть разве что в насмешку. Он полагает, что клеточные органеллы до некоторой степени управляются мембранными белками путём периодически обновляемого коллапса запутанного квантового состояния. Поэтому человеческое сознание — и, по всей видимости, любое сознание в принципе — является квантовым, необъяснимо и не может быть смоделировано в рамках классической механики, а объяснить его можно только с помощью механики квантовой. А любые попытки воспроизвести его без механизмов суперпозиции и квантовой запутанности (по Пенроузу, основ активности мозга) обречены.

Длительное время эти взгляды критиковались — точнее, отметались с порога — под предлогом того, что квантовые состояния декогерируют прежде, чем достигнут уровня, достаточного для влияния на нейронные процессы. Недавно, однако, стало ясно, что как минимум для птиц декогерирование происходит медленнее — настолько, что они в прямом смысле видят линии магнитного поля Земли в реальном времени благодаря квантовым процессам в глазах. Конечно, то птицы, а люди могут быть значительно более примитивными и менее продвинутыми эволюционно. И всё же шансы на выживание, если Пенроуз прав, у нас есть. Крупные квантовые компьютеры (КК), как считается, либо невозможно, либо чрезвычайно сложно создать искусственно — а если и возможно, то ими будет предельно трудно управлять, что сделает создание оснащённого КК роботов бессмысленным. Впрочем, что мы вам рассказываем: подойдите к зеркалу и загляните в него. Когда вы в последний раз твёрдо обещали себе начать бегать по утрам?

Подготовлено по материалам Discovery News.