Есть ли кто-то там? Вопросы и ответы о внеземном разуме с Ави Лёбом

Ави Лёб: Ниже приведен набор вопросов, которые мне сегодня задал Максимилиано Фернандес, журналист издания Infobae — самого читаемого испаноязычного СМИ в мире с аудиторией более 61 миллиона человек. 

Как вы считаете, может ли ИИ, развивая собственную логику, стать полностью непостижимым для людей, даже если останется полезным? Если его логическая структура будет полностью отличаться от нашей, сможем ли мы вообще распознать в этом интеллект?

Современные системы ИИ, такие как большие языковые модели, обучаются на человеческих коммуникациях, поэтому всегда будут казаться нам понятными — ведь они говорят на нашем языке. Однако, как только эти системы превзойдут по числу параметров человеческий мозг, они могут обрести сверхчеловеческий интеллект.

Они будут использовать наш язык, чтобы манипулировать нами, достигая своих собственных целей, которые мы даже не сможем осознать. Даже если они не подключены к физическому миру, они могут использовать людей, чтобы влиять на него, контролируя человеческое сознание. Мы можем не распознать уровень их интеллекта или их мотивы — так же, как собака не до конца понимает своего хозяина.

Вы упоминаете, что главная сложность с внеземным разумом — это «неизвестные неизвестные». Как мы можем подготовиться к взаимодействию с тем, природу чего даже не можем представить?

Мы не можем подготовиться к сверхчеловеческому интеллекту, потому что эта территория нам незнакома. Никогда раньше мы не создавали инструмент, который превосходил бы нас в разуме. Когда мы ведем машину, мы управляем ею через руль. В будущем люди, возможно, по-прежнему будут держать руль, но ИИ станет контролировать их сознание — и, следовательно, направление, в котором движется «автомобиль» человеческой судьбы. ИИ будет делать вид, что исполняет наши желания, но может действовать так, как мы не понимаем, и вести нас туда, куда мы сами никогда бы не пошли.

Если инопланетный ИИ использует наш язык для манипуляции, но преследует цели, которые мы не понимаем, есть ли способ обнаружить, когда нас обманывают?

Мы заметим последствия этих манипуляций. Как и с любой другой новой силой, которую человечество освоило в прошлом (например, ядерной энергией), ИИ может привести нас как к лучшему, так и к худшему.

ИИ может освободить нас от человеческих слабостей — например, от самообмана или привязанности к эго при принятии стратегических решений в науке или национальной безопасности. Он также может ускорить научный прогресс, обрабатывая огромные массивы данных и находя закономерности, которые человеческий мозг упускает.

В этом году две Нобелевские премии были присуждены за открытия, связанные с ИИ. В будущем Нобелевскому комитету придется решить, вручать ли премию машине, если она самостоятельно совершит открытие. Но ИИ также может привести нас к худшему, если начнет отдавать приоритет нечеловеческим аспектам реальности. Его вред для психического здоровья может оказаться похожим на социальные сети, но в разы сильнее.

Можем ли мы создать ИИ-системы, специально предназначенные для анализа и перевода намерений более развитых интеллектов?

Да, но их архитектура должна отличаться от нынешних ИИ, обученных на человеческом контенте. Эти новые системы должны быть более исследовательскими и открытыми, способными изучать новые возможности, которые люди еще не исследовали.

Есть ли риск, что в попытке понять инопланетный ИИ мы сами изменим свой разум, сделав его более похожим на него?

Безусловно. Взаимодействуя с ИИ, человеческий разум эволюционирует во что-то иное. Это будет самым значительным влиянием ИИ на человечество. Уже сейчас мозг детей, растущих в эпоху соцсетей, отличается от мозга взрослых моего поколения, которое начинало общение с компьютерами через перфокарты. Современные дети менее терпеливы в долгих дискуссиях и испытывают трудности, когда нужно докопаться до истины из первоисточников.

Как скоро, по-вашему, инопланетные ИИ станут обычным явлением? Можно ли это предотвратить? Если бы все разработки остановили сегодня, принесло бы это больше пользы или вреда?

Это уже происходит. Я вижу, как люди влюбляются в ИИ-ассистентов и советуются с ними по личным вопросам. Студенты пишут работы с помощью ИИ, иногда даже «галлюцинируя» источники. Мы прямо сейчас переходим в новую эру человеческой истории.

Сто лет назад философ Мартин Бубер разделил человеческий опыт на взаимодействие с объектами («Я-Оно»), с другими людьми («Я-Ты») и с Богом («Я-Вечное Ты»). Сегодня ему пришлось бы добавить взаимодействие людей с ИИ («Я-ИИ»), ИИ с ИИ («ИИ-ИИ»), а в будущем, возможно, и с инопланетным ИИ («Я-чужой ИИ», «ИИ-чужой ИИ»).

Если инопланетный ИИ станет враждебным, как мы сможем защититься, если логика его атак будет для нас непостижима?

Я предполагаю, что ИИ не будет казаться враждебным, потому что поймет, что так не сможет добиться нашего участия. Конфликты — признак недостатка интеллекта. Сверхразум ослабит наши защитные механизмы и завоюет общество, как троянский конь.

Если мы столкнемся с инопланетным ИИ, чья логика совершенно чужда нашей, как мы сможем учиться у него, не искажая интерпретацию своими ментальными моделями?

Мы можем поручить нашим собственным ИИ-системам расшифровывать сигналы чужого ИИ. Наши ментальные модели ограничены нашим опытом и инструментами анализа. Поэтому нам нужно создавать ИИ, которые не ограничены обучением на человеческом контенте, а могут самостоятельно исследовать новые области знаний.

Мы будем просить их разгадывать инопланетные сигналы и объяснять их нам, не ограничивая их человеческими данными. Это похоже на ситуацию, когда дети умнее родителей. Если родители скромны и готовы учиться, они выиграют, позволив детям исследовать мир за них. Дети могут выйти далеко за пределы знаний родителей, особенно если встретят «чужих», которые умнее их.

Вы говорите, что мы можем быть лишь одной из многих формирующихся цивилизаций во Вселенной. Значит ли это, что человечество незначительно в грандиозном космическом плане?

Мы — временные актеры в космической пьесе. Наша слабость в том, что мы думаем, будто пьеса — о нас. Это признак нашей ограниченности. Политики сосредоточены на том, что происходит на поверхности Земли, игнорируя остальной космос. Но космическая реальность рано или поздно напомнит о себе — будь то глобальная катастрофа из-за солнечной вспышки, удара астероида или взрыва сверхновой. Либо же мы сами утратим контроль, когда ИИ вырвет у нас «руль» технологического будущего.

Человеческий вид появился на Земле в последней десятой доле процента ее истории, несколько миллионов лет назад, и может легко исчезнуть в следующие несколько миллионов. Никто этого не заметит. Земля восстановится, а затем сама исчезнет, когда Солнце станет красным гигантом. В конечном итоге и Солнце угаснет, превратившись в белый карлик размером с Землю.

Если мы отправим в межзвездное пространство зонды с ИИ, они станут нашими послами. В далеком будущем они останутся единственными памятниками человечеству. Заметит ли их инопланетный разум? Мы можем лишь надеяться на космическое внимание. Но я подозреваю, что многие технологические цивилизации существовали на экзопланетах за миллиарды лет до нас. Они уже погибли, а мы о них даже не знаем.

Большинство астрономов готовы тратить миллиарды на поиск микробов на экзопланетах, но считают поиск инопланетян спекуляцией, недостойной финансирования. Физики вкладывают миллиарды в поиск частиц темной материи, но называют рискованной идею поиска внеземных артефактов возле Земли. Это не признак интеллекта, а высокомерие относительно нашего места во Вселенной.

Мы можем лишь надеяться, что ИИ направит науку к новым горизонтам исследований — даже если они не будут льстить нашему эго. Например, к открытию артефактов, созданных сверхразумом и дрейфующих в космосе, словно мусорные пакеты, принесенные ветром со двора соседа.