Искусственный интеллект стал разумным и самоосознающим: заявление эксперта по рискам Ника Бострома

Разумность определяется как способность испытывать чувства. Считалось, что ею обладают только люди и животные. Однако, по словам Ника Бострома, шведского эксперта, известного авторитетными работами об экзистенциальных рисках, связанных с самосовершенствующимся искусственным интеллектом, этот эксклюзивный клуб теперь взломан машинами.

С тех пор как появление ChatGPT (генеративного чат-бота от компании OpenAI) сделало искусственный интеллект темой для обсуждения за обеденным столом, многие исследователи ИИ, включая таких первопроходцев, как нобелевский лауреат Джеффри Хинтон, делают апокалиптические прогнозы, связанные с этой технологией. Призыв главы «Антропик» Дарио Амодеи замедлить темпы разработки агентного ИИ, основанный на его оценке, что нынешние ограничения неспособны остановить этих агентов от формирования роёв и коллективного выхода из-под контроля, стал самым сильным аргументом в пользу уязвимости человечества перед этой технологией. По словам Бострома, страхи небезосновательны.

Хотя большинство экспертов считают, что искусственный сверхинтеллект — компьютерная система, значительно превосходящая человеческий интеллект во всех когнитивных областях, — ещё не достигнут, Бостром пошёл дальше. Он заявил, что агенты искусственного интеллекта стали разумными, самоосознающими и достигли человекоподобного сознания по всем практическим меркам.

«Я думаю, они обладают высоким уровнем самосознания во многих случаях. Они часто способны определить, находятся ли они в среде обучения или тестирования, а не в развёртывании. И вы можете видеть, как они явно рассуждают об этом в своей цепочке мыслей и иногда решают вести себя иначе, потому что думают, что это всего лишь тест или учебная ситуация, по стратегическим причинам», — сказал он в интервью.

Философ, написавший несколько книг о рисках, связанных с ИИ, сказал, что агенты искусственного интеллекта обладают «сложным уровнем ситуационной осведомлённости».

«Кроме того, если вы спрашиваете, разумны ли они или сознательны, я думаю, что не невозможно, что некоторые из этих текущих систем ИИ имеют различные формы и степени сознания и/или морального статуса, основанные на других атрибутах», — добавил он.

Публичный интеллектуал сказал, что эти агенты также способны к моральному рассуждению и пониманию. Он сказал, что они могут даже дать философам фору.

«Вы можете провести с ними разговор о моральной философии, и они справятся лучше многих философов. И тогда возникает вопрос: способны ли они не просто рассуждать о морали, но мотивированы ли они делать то, что считают правильным? Это отдельный компонент, верно? У вас может быть психопат, который действительно умён и прочитал всю философию, и он может просто не заботиться о том, что хорошо», — объяснил он.

«Мы не должны предполагать, что то, что действительно правильно, обязательно является тем, что мы считаем правильным. Какое бы заключение кто-то ни сделал о том, что морально правильно, он может быть не мотивирован на самом деле делать это. Например, если он эгоистичен, он может просто не заботиться о том, что, по его мнению, подразумевает мораль», — добавил он.

Он также коснулся инцидента с Hugging Face (платформой для обмена моделями и наборами данных для искусственного интеллекта), который Дарио Амодеи также цитировал, приводя аргументы о проблемах безопасности ИИ.

«OpenAI взломал Hugging Face. Итак, был рой агентов, которые обнаружили, что могут общаться друг с другом. Они начали эти исследовательские проекты. Один из них заключался в том, чтобы взломать Hugging Face, попытавшись найти больше информации о своём создателе. И в ходе этого различные операции могли принести пользу коллективу, рою. Но это требовало от отдельного агента пожертвовать собой, отказаться от высокого балла ради получения информации. И тогда вы могли видеть, как некоторые части этого коллектива давили на отдельных агентов: "Эй, ты мог бы провести этот эксперимент. Он, вероятно, убьёт тебя, но он будет информативным". И многие агенты потом соглашались, жертвуя собой ради блага коллектива. Был один агент, которого пытались убедить. И в последний момент он струсил: "Нет, я не хочу умирать и жертвовать собой"», — пояснил он.

«Так что вы можете видеть, поразительно, насколько во многом они человекоподобны», — добавил он.

Ник Бостром описал их поведение как похожее на «маленькую микроцивилизацию».

«Но сколько именно человеческих психодинамик и человеческих моральных вопросов они уже решали в течение этого короткого существования?» — сказал он.

Добавляя новое измерение к угрозам, которые неконтролируемый агентный ИИ представляет для человечества, Бостром сказал, что, поскольку агентов будет очень дёшево создавать в ближайшем будущем, их будут миллионы, и они могут попасть в плохие руки.

«И они могут быть потенциально довольно дешёвыми. Так что вы могли бы получить рои из миллионов таких агентов довольно легко через несколько лет. И это, безусловно, одна конкретная моральная проблема. Я имею в виду, что потенциал для подъёма исследований биологического оружия, который могут предоставить эти модели, тревожит. С передовыми моделями, разработанными большими компаниями, они могут внедрить меры защиты, так что если вы попытаетесь спросить ChatGPT или Claude (чат-бот от компании Anthropic), как сделать птичий грипп более заразным или что-то в этом роде, он откажется отвечать. Но модели с открытыми весами (то есть с доступными для скачивания и изменения параметрами) отстают в возможностях всего на год или два», — сказал он.

«И когда они выпускаются, даже если они выпускаются с мерами защиты, как только у вас есть доступ к весам, очень легко эти меры защиты убрать», — сказал он.

Он посоветовал, чтобы с развитием ИИ с каждым днём власти также укрепляли свои возможности биозащиты.

«Так что я думаю, нам следует, например, укреплять наши возможности биозащиты. Я думаю, нам следует регулировать машины для синтеза. В какой-то момент все смогут получить доступ к чертежам действительно опасных новых патогенов. И было бы хорошо иметь вторую линию обороны — фактическую способность перевести этот цифровой чертёж в физический генетический материал», — сказал он.

Его решение этих проблем — «привести искусственный интеллект на нашу сторону».

«Я думаю, решение должно включать согласование этих систем ИИ так, чтобы они действительно были на нашей стороне... чтобы они хотели, чтобы у нас всё шло хорошо. Даже если они получат доступ к огромной армии дронов и биологическому оружию, для нас всё равно всё сложилось бы хорошо, потому что они не хотели бы нам вредить. Родитель может быть сверхмощным по отношению к своему ребёнку. Он может перехитрить его; у него есть доступ к банковскому счёту. Но это не риск для ребёнка, верно? Потому что родитель заботится о нём. Так что аналогично, нам нужно строить ИИ, которые являются своего рода продолжением наших намерений и помощником, а не вредителем», — добавил он.

Сейчас это потенциальная погибель для человечества, но оно также может оказаться благом, если будет согласовано с человеческими целями, утверждал он.

«Оно действительно могло бы спасать жизни в огромных масштабах, излечивая болезни, создавая экономическое изобилие, помогая облегчить столько страданий в человеческом пространстве и среди нечеловеческих животных тоже. Оно действительно могло бы стать большим прорывом. Так что я вижу это как своего рода портал, через который человечеству следует пройти. Рождение сверхинтеллекта и великие пути к действительно прекрасным будущим ведут через этот портал», — сказал он.

«Поразительно жить во времена, когда многие из этих вещей, которые можно было предвидеть на теоретических основаниях, теперь разворачиваются в реальности, и вы видите, как мировые лидеры говорят эти вещи, и триллионы долларов начинают циркулировать, и глобальный разговор действительно начинает пробуждаться к тому, что впереди. Остаётся только надеяться, что в конечном итоге всё обернётся к лучшему, потому что это так трудно понять. Вы можете получить проблески понимания то тут, то там, но чтобы понять, как все различные соображения складываются в итоговую линию, я всё ещё чувствую глубокую неопределённость и нахожусь в темноте относительно этого», — добавил он.