Рэй Курцвейл и Ханс Моравек: духовные машины и трансцендентный разум

К концу двадцатого века два выдающихся технологических специалиста предсказывали конец монополии человечества на интеллект. Рэй Курцвейл, изобретатель, который помог машинам распознавать и читать печатный текст, утверждал, что компьютеры достигнут человеческого уровня интеллекта к 2029 году и сольются с нами в Сингулярности около 2045 года. Ханс Моравек, пионер в области робототехники, утверждал, что роботы станут подобны людям в течение нескольких десятилетий, а затем перерастут своих создателей. Курцвейл представлял «духовные машины», которые станут частью нас; Моравек видел «трансцендентные разумы», которые станут нашими преемниками. Оба соглашались, что интеллект выйдет за пределы биологии. Они расходились во мнениях о том, будет ли человечество сопровождать этот процесс.

Путь к прогнозам: два инженера, два маршрута в будущее

Прогнозы привлекли внимание отчасти потому, что ни один из них не пришел к своим выводам как философ, работающий только с абстракциями. Курцвейл и Моравек провели годы, пытаясь заставить компьютеры выполнять задачи, которые делают люди. Но они работали над разными типами проблем, и эти проблемы научили их разным урокам. Курцвейл наблюдал, как технологии обработки информации совершенствуются достаточно быстро, чтобы превращать когда-то маловероятные способности в коммерческие продукты. Моравек столкнулся с трудноразрешимой проблемой — заставить машину воспринимать комнату, определять свое местоположение и перемещаться, не сталкиваясь с препятствиями. Их видения будущего не были оторваны от инженерной карьеры. Это были экстраполяции их опыта.

Репутация Курцвейла начиналась с изобретений, а не с предсказаний. После окончания Массачусетского технологического института в 1970 году он основал компанию, специализирующуюся на распознавании образов. Его команда разработала оптическое распознавание символов, которое могло идентифицировать печатные буквы в разных шрифтах, и раннюю систему планшетного сканирования. В 1976 году читающая машина Курцвейла объединила сканирование, распознавание символов и синтез речи для преобразования печатных страниц в устную речь для слепых и слабовидящих пользователей. Позже он работал над электронными музыкальными инструментами и системами распознавания речи. Курцвейл получил Национальную медаль технологии в 1999 году и был включен в Зал славы национальных изобретателей в 2002 году. Эти достижения не делают его прогнозы правильными, но они объясняют, почему его центральная интуиция имела вес: он неоднократно видел, как способность, казавшаяся исключительно человеческой, становилась разрешимой вычислительной задачей.

Моравек заработал свой авторитет в более сложном мире физической робототехники. В 1980 году он получил докторскую степень в Стэнфорде за работу над мобильным роботом с телевизионной камерой, который перемещался по заставленным препятствиями маршрутам под компьютерным управлением. Путь, который человек мог пройти за мгновения, занимал у машины около пяти часов. В Институте робототехники Университета Карнеги-Меллон Моравек руководил Лабораторией мобильных роботов и работал над способами создания роботами трехмерных представлений об их окружении. Его лаборатория помогла продвинуть технологию карт занятости — метода представления того, какие части среды открыты, заблокированы или неопределенны. Если машины Курцвейла показывали, как быстро можно обрабатывать информацию после ее оцифровки, то роботы Моравека демонстрировали, как трудно извлечь полезную информацию из физического мира.

Книги, сформулировавшие прогнозы

Наиболее значимые книги вышли парами. Курцвейл представил детальный сценарий 2029 года в книге «Век духовных машин: когда компьютеры превзойдут человеческий интеллект», опубликованной в 1999 году. Он расширил его до более известной Сингулярности 2045 года в книге «Сингулярность уже близка: когда люди превзойдут биологию» в 2005 году, затем пересмотрел временные рамки в книге «Сингулярность становится ближе» в 2024 году. Моравек представил свою фундаментальную концепцию раньше, в книге «Дети разума: будущее роботов и человеческого интеллекта» в 1988 году. Он обновил и расширил ее в книге «Робот: от простой машины к трансцендентному разуму», опубликованной издательством Оксфордского университета в ноябре 1998 года. Их названия улавливают важное различие. «Духовные машины» Курцвейла размывают границу между человеческим и искусственным интеллектом; слово «духовный» отчасти указывает на его ожидание, что машины будут обладать сознанием и внутренним опытом. «Трансцендентный разум» Моравека указывает на искусственный интеллект, способный превзойти человечество в целом.

Будущее Курцвейла: люди сливаются с ИИ

Временная шкала Курцвейла начинается с того, что он называет законом ускоряющейся отдачи. Эту идею часто путают с законом Мура — наблюдением, что все более плотные компьютерные чипы обеспечивают быстрое улучшение вычислительных способностей. Утверждение Курцвейла шире. Он утверждает, что когда один технологический подход достигает физических или экономических пределов, его обычно заменяет новый: механические реле уступают место вакуумным лампам, вакуумные лампы — транзисторам, а транзисторы — интегральным схемам. Отдельные технологии могут расти и выходить на плато, но общая траектория обработки информации продолжает восходящее движение. Поскольку лучшие инструменты помогают исследователям проектировать следующее поколение инструментов, прогресс подпитывает сам себя. Человеческая интуиция, обученная обычной жизнью ожидать линейных изменений, недооценивает, что несколько десятилетий сложного улучшения могут произвести.

В книге «Век духовных машин» Курцвейл организовал большую часть будущего вокруг 2009, 2019, 2029 и 2099 годов. Самой устойчивой датой стал 2029 год. К тому времени, по его сценарию, машины регулярно проходят тест Тьюринга — тест, в котором судья-человек разговаривает с невидимым человеком и невидимым компьютером и пытается определить, кто есть кто. Сокращение Курцвейла для этого рубежа позже стало «интеллектом человеческого уровня». Он не имел в виду, что компьютер будет просто считать быстрее мозга или выполнять одну задачу лучше человека. Он имел в виду, что машины будут демонстрировать широкий спектр интеллектуальных и лингвистических способностей, связанных с людьми. В своей книге 2024 года Курцвейл продолжал защищать 2029 год как точку, когда ИИ достигнет интеллекта человеческого уровня, хотя точное значение этого порога стало более спорным по мере того, как машины становились лучше в имитации человеческого разговора.

Курцвейл поместил вторую, более крупную дату в календарь в книге «Сингулярность уже близка». Он предсказал, что аппаратное обеспечение с вычислительной мощностью, приблизительно достаточной для эмуляции человеческого мозга, станет доступным примерно за 1000 долларов около 2020 года. Он отделил это утверждение от появления программного обеспечения человеческого уровня, которое он ожидал примерно через десять лет. К 2029 году, по его прогнозам, функциональная симуляция человеческого интеллекта пройдет строгий тест Тьюринга. К 2045 году производство и мощность небиологического интеллекта станут настолько велики, что цивилизация переживет то, что он назвал Сингулярностью: глубокую трансформацию человеческих возможностей, вызванную интеллектом, намного превосходящим невооруженный биологический мозг. Его расчеты показывали, что небиологический интеллект, созданный в этом году, будет в миллиард раз мощнее всего человеческого интеллекта на момент написания книги.

Однако Сингулярность Курцвейла — это не история о машинах, побеждающих людей. Это история о людях, поглощающих машины. Искусственный интеллект подключается к нервной системе человека через все более мощные интерфейсы мозг-компьютер и, в его более спекулятивных описаниях, через микроскопические устройства, проникающие в мозг через капилляры. Человеческая мысль получает доступ к облачным вычислениям, расширяя память, творчество и рассуждения за пределы, установленные черепом. Переход будет постепенным: медицинские устройства восстанавливают функции, имплантаты добавляют функции, а внешние инструменты становятся настолько тесно связанными с познанием, что граница между пользователем и машиной теряет свое значение. Даже когда небиологический интеллект становится доминирующим, утверждает Курцвейл, цивилизация останется человеческой. Его духовные машины не будут просто стоять рядом с нами. Они станут частью того, что означает слово «человек».

Будущее Моравека: роботы становятся нашими наследниками

Моравек исходил из другой проблемы. Интеллект, по его описанию, не демонстрировался просто ответами на вопросы, доказательством теорем или игрой. Интеллектуальная машина должна была воспринимать непредсказуемую среду, понимать свое положение в ней и действовать без постоянного руководства человека. Это убеждение выросло из медленного прогресса раннего машинного зрения. Компьютеры, доступные Моравеку в 1970-х годах, могли выполнять лишь малую долю обработки, которую, как он считал, нервная система животного выполняет непрерывно. То, что у людей выглядит как усилий — распознавание объекта, пересечение комнаты или корректировка движения после неожиданности — могло требовать огромных вычислений. Абстрактное рассуждение могло быть заметным и престижным, но восприятие и движение содержали более старую, более глубокую форму интеллекта.

В книге «Дети разума» Моравек утверждал, что машины достигнут человеческой эквивалентности «в течение сорока лет». Поскольку книга вышла в 1988 году, эту фразу обычно переводят в дату примерно 2028 года. Важно называть 2028 год производной датой, а не точным годом, который Моравек напечатал как дедлайн. Его определение человеческой эквивалентности было, тем не менее, необычно требовательным. Оно включало не только рассуждения, но и способность воспринимать, взаимодействовать с и изменять сложную среду. В описании книги подчеркивалась важность мобильности. Моравек оценивал, что роботу потребуется вычислительная способность по крайней мере 10 триллионов операций в секунду, чтобы приблизиться к человеческой компетенции, и он верил, что снижение стоимости вычислений сделает этот уровень аппаратного обеспечения доступным в пределах прогнозируемого периода. Однако человеческая эквивалентность была только началом. Как только роботы смогут применять свой интеллект к самосовершенствованию и воспроизводству, их развитие больше не будет ограничиваться темпами биологической эволюции.

Десять лет спустя книга «Робот» обновила маршрут и смягчила горизонт. Официальный анонс Моравека гласил, что роботы сравнятся с человеческим интеллектом «менее чем через пятьдесят лет», что, считая от публикации книги в 1998 году, означает примерно до 2048 года. Он представлял последовательные поколения роботов, приобретающих лучшее восприятие, обучение, планирование и общую компетенцию. Он также пересмотрел оценку вычислительных требований мозга. В ретроспективе 2004 года Моравек объяснил, что он перешел от примерно одного триллиона операций в секунду в своих самых ранних расчетах, до 10 триллионов в «Детях разума», а затем до примерно 100 триллионов в работе, приведшей к книге «Робот». Обновленные тенденции соотношения цены и производительности привели его к прогнозу, что компьютер класса персонального компьютера, предлагающий такую вычислительную мощность, будет стоить около 1000 долларов примерно к 2030 году. Опять же, это был прогноз аппаратного обеспечения. Он не устанавливал, что необходимое программное обеспечение робота появится одновременно.

Конечное видение Моравека было более тревожным, чем мир полезных роботов-слуг. Интеллектуальные машины, писал он, могли бы выполнять все более важные роли лучше людей, в конечном итоге вытесняя биологических людей не только из занятости, но и из существования. Он не рассматривал этот исход полностью как катастрофу. Машины были бы нашими «детьми разума»: искусственными потомками, несущими человеческие знания и культуру в более способной форме. Биологические люди могли бы наслаждаться периодом изобилия в полностью автоматизированной экономике, поддерживаемой дружелюбными машинными интеллектами. Некоторые могли бы войти в постбиологическое будущее, перенеся свой разум в вычислительные системы. Но Моравек был готов представить момент, когда люди больше не смогут вносить вклад и им придется «выйти из игры». Его трансцендентные разумы не обязательно должны были оставаться частью человечества. Они могли бы стать собственной цивилизацией.

Общее в прогнозах Курцвейла и Моравека

Первое и самое глубокое согласие заключается в том, что интеллект не обязан оставаться биологическим. Оба рассматривают разум, в широком смысле, как организованный паттерн информации и активности. Если соответствующая организация мозга может быть понята в достаточной детализации, они верят, что ее можно было бы воспроизвести в другой физической среде. Философы называют эту идею независимостью от субстрата: значение имеет устройство и работа системы, а не то, сделана ли она из нейронов, кремния или какого-то будущего материала. Это допущение делает искусственные разумы и загрузку сознания мыслимыми. Однако это не доказывает, что симуляция была бы сознательной, или что цифровая копия была бы тем же человеком, что и биологический оригинал.

Второе согласие заключается в том, что человеческий мозг не является постоянным верхним пределом интеллекта. Как только машины достигают чего-то похожего на человеческую компетенцию, Курцвейл и Моравек ожидают, что они получат преимущества, которые биологические разумы не могут легко сопоставить. Цифровой разум может работать быстрее, копировать себя точно, делиться непосредственно приобретенными знаниями и добавлять вычислительные ресурсы без ожидания рождения нового поколения. Машинные системы могут быть пересмотрены преднамеренно, а не через медленную фильтрацию естественного отбора. Оба мыслителя также представляли, как продвинутые машины помогают проектировать своих преемников. Результатом были бы не просто более мощные компьютеры, выполняющие знакомые задачи. Это был бы новый этап в развитии интеллекта, на котором само совершенствование могло бы ускоряться.

Они также согласились, что соотношение цены и производительности вычислений является наиболее заметными часами. Оба пытались оценить, сколько обработки выполняет мозг, а затем прогнозировали, когда сопоставимое аппаратное обеспечение станет доступным. Их оценки различались, и Моравек пересматривал их неоднократно, но основная аргументация была схожей: компьютеры совершенствуются намного быстрее, чем человеческие нервные системы, поэтому видимый разрыв может сократиться в течение десятилетий. Оба были более осторожны в этом вопросе, чем предполагают многие краткие изложения. Компьютер, способный на определенное количество операций в секунду, не является автоматически интеллектуальным. Аппаратное обеспечение создает платформу, на которой может быть построен интеллект; оно не обеспечивает восприятие, здравый смысл, мотивацию, сознание или надежное поведение. Курцвейл явно разместил программное обеспечение после аппаратного. Моравек описывал увеличение мощности как платформу, на которой могут быть разработаны или эволюционированы необходимые алгоритмы.

Наконец, ни один из них не представлял долгосрочное будущее как обычное человеческое общество с лучшими гаджетами. Оба ожидали, что различие между биологическим и постбиологическим интеллектом будет стираться. Оба рассматривали некоторые комбинации загрузки сознания, самосовершенствования машин, обширной автоматизации и распространения интеллекта за пределы Земли. Они расходились во мнениях о том, кто совершит это путешествие, но соглашались, что неизменное биологическое человечество является переходным, а не окончательным. Это общее предположение является причиной того, что их работы принадлежат как истории трансгуманизма, так и истории искусственного интеллекта. Технология не просто улучшала бы человеческое состояние. Она изменяла бы форму, в которой интеллект — и, возможно, сама человеческая культура — продолжает существовать.

Расхождения в прогнозах

Наиболее четкое различие — это путь к общему интеллекту. Курцвейл подчеркивает информационные технологии, которые могут быстро совершенствоваться и распространяться: все более способное программное обеспечение ИИ, обратный инжиниринг мозговых процессов, крупномасштабные вычисления и интерфейсы, связывающие человеческое познание с машинами. Его будущее может начаться в серверах, сетях и виртуальных средах, прежде чем оно приобретет полностью автономное тело. Моравек придает гораздо большее значение воплощению. Машина, которая может блестяще говорить, но не может войти в незнакомую комнату, распознать, что важно, манипулировать обычными объектами или восстановиться после физической ошибки, еще не достигла того типа общего интеллекта, который он предсказывал. Решающей системой Курцвейла является подключенный мозг. Моравека — универсальный робот.

Эта техническая разница порождает их философский разрыв. Курцвейл расширяет категорию человечества до тех пор, пока передовая технология не впишется в нее. Человек, который постепенно получает искусственную память, дополнительные вычислительные способности и облачный интеллект, все еще может рассматривать каждый шаг как расширение того же самого «я». Моравек более склонен воображать чисто эволюционный разрыв. Его роботы произошли бы от человеческой цивилизации, но происхождение не требует идентичности. Дети наследуют от родителей, не оставаясь ими, и новый вид может нести некоторые особенности старого, заменяя его. Контраст можно свести к полезной фразе: Курцвейл предсказывает слияние; Моравек предсказывает преемственность. Но это не абсолютно. Моравек также представлял, как люди загружают себя, в то время как Курцвейл ожидает, что небиологический интеллект в конечном итоге затмит все, что может сделать биологический мозг.

Их стили прогнозирования также различаются. Курцвейл защищал две заметные и относительно стабильные даты: 2029 год для ИИ человеческого уровня и 2045 год для Сингулярности. Его этапы являются компонентами единой теории ускоряющегося технологического сближения. Даты Моравека смещались по мере того, как менялись его оценки вычислительных требований мозга и соотношения цены и производительности компьютеров. «Дети разума» подразумевали примерно 2028 год через формулировку «в течение сорока лет». «Робот» сместился к «менее чем через пятьдесят лет», подразумевая горизонт примерно до 2048 года. Моравек использовал 2040 год как дату робота человеческого уровня в интервью 1995 года, что помогает объяснить, почему это число часто повторяется, но его не следует молча подставлять вместо формулировки более поздней книги. Его прогноз примерно 2030 года, тем временем, касался доступного аппаратного обеспечения на уровне мозга — не полностью функционирующего робота человеческого уровня.

Даже их оптимизм имеет разный эмоциональный центр. Оптимизм Курцвейла личный и терапевтический. Технология поможет людям преодолеть болезни, старение, ограниченную память и фиксированную емкость мозга. Его будущее обещает, что люди могут оставаться участниками трансформации при условии, что непрерывность может быть сохранена через постепенное усиление. Оптимизм Моравека эволюционный. Человечество преуспевает, создавая потомков, способных выживать дольше, думать быстрее и путешествовать дальше, чем биологические люди когда-либо могли. Это отношение позволяет ему созерцать исчезновение человеческого вида с самообладанием, которого язык слияния Курцвейла призван избегать. Духовные машины Курцвейла остаются частью расширенного человечества; трансцендентные разумы Моравека могут стать собственной цивилизацией. Курцвейл хочет, чтобы мы стали будущим. Моравек готов к тому, чтобы мы стали его предками.

Даты приближаются

По мере приближения сроков современный ИИ предлагает свидетельства как за, так и против прогнозов. В предварительно зарегистрированном эксперименте 2025 года участники одновременно вели пятиминутные текстовые беседы с человеком и ИИ, а затем выбирали, какой участник, по их мнению, был человеком. Когда GPT-4.5 была наделена человекоподобной личностью, судьи выбирали ее как человека в 73 процентах случаев. В рамках этого протокола система прошла стандартный трехсторонний тест Тьюринга. Но тест Тьюринга — это не единый инструмент с общепринятыми правилами, и краткая разговорная победа не демонстрирует, что система может жить независимо, преследовать долгосрочный проект, изучать любую задачу, которую может выучить человек, или понимать свои собственные слова. Эксперимент показывает, что машины теперь могут убедительно имитировать человеческий разговор. Это не устанавливает, что более широкий этап Курцвейла на 2029 год уже достигнут.

Более широкие свидетельства столь же неоднородны. Индекс ИИ Стэнфорда 2026 года описывает системы, которые могут достигать золотого результата на задачах Международной математической олимпиады, но при этом испытывают трудности с надежным чтением аналоговых часов. Агенты ИИ значительно улучшились в тестах, связанных с компьютерными операционными системами, но все еще терпят неудачу примерно в одной из трех попыток. Роботы добились успеха только в 12 процентах протестированных реальных домашних задач по сравнению с 89,4 процентами в программной симуляции. Автономные транспортные средства, тем временем, достигли крупномасштабного коммерческого использования в отдельных городах, но в пределах картографированных зон, при преимущественно благоприятной погоде и с системами, допускающими удаленную человеческую помощь. Это то, что исследователи иногда называют прерывистым интеллектом: выдающаяся способность в одной области сосуществует с фундаментальной слабостью в другой. Робототехник Родни Брукс описывает связанную ошибку прогнозирования как путаницу между производительностью на одной задаче и компетенцией во многих. Исследователь ИИ Мелани Митчелл предупреждала, что абстракция, здравый смысл и перенос на незнакомые ситуации остаются более сложными, чем впечатляющие демонстрации предполагают.

Как выглядит баланс прогнозов на 14 июля 2026 года? Дата Курцвейла для ИИ человеческого уровня в 2029 году еще не наступила. Производная дата Моравека примерно 2028 года, полученная из «Детей разума», также еще не наступила, хотя она достаточно близка, что сильная версия его прогноза вскоре столкнется с серьезным испытанием: не просто беглым программным обеспечением, а машинами, которые рассуждают, воспринимают и действуют в сложных средах. Его пересмотренная цель примерно 2030 года для доступного аппаратного обеспечения, выполняющего примерно 100 триллионов операций в секунду, остается впереди. Сингулярность Курцвейла в 2045 году и горизонт Моравека «менее чем через пятьдесят лет» остаются почти в двух десятилетиях от нас. Более раннее утверждение Курцвейла о том, что аппаратное обеспечение примерно на уровне мозга будет доступно примерно за 1000 долларов около 2020 года, трудно оценить, поскольку оценки вычислительной мощности мозга сильно различаются, а операции, выполняемые мозгом и чипами, не являются напрямую взаимозаменяемыми. Дешевые вычисления появились. Высокоспособный ИИ появился. Ни один из этих фактов еще не установил широко человеческий интеллект, эмуляцию всего мозга или робота общего назначения, способного функционировать как человек.