Технологии диктуют правила: OpenAI берёт на себя роль законодателя
Мысли о новом общественном договоре для эпохи искусственного интеллекта были предоставлены самими технологическими компаниями-разрушителями устоявшегося порядка. Это свидетельствует о недостатке социального воображения среди американского политического класса. Когда безвольный Конгресс, подчинившийся культу личности президента, и умирающая Демократическая партия, лишённая свежих идей, топчутся на месте, размышления о будущем переложили на тех, кого они должны регулировать.
Очевидно, что к любым предложениям крупных технологических компаний нужно относиться с осторожным подозрением, поскольку они в первую очередь служат их собственным интересам. Однако когда та же компания Anthropic выступает против Пентагона по вопросам использования их передовых моделей для массовой слежки и автономного оружия, их принципиальную позицию стоит поддержать. В этом контексте предложение OpenAI под названием «Промышленная политика для эпохи интеллекта: идеи, чтобы ставить людей на первое место», опубликованное на прошлой неделе, заслуживает внимания. Оно более дальновидно и всеобъемлюще, чем всё, что появилось из вялых precincts публичных политиков.
Исторический контекст
Общество переживало крупные технологические переходы и раньше, но не без реальных нарушений и потрясений. В конечном счёте эти переходы создали больше процветания, но потребовали активных политических выборов. Например, после перехода к индустриальной эпохе прогрессивная эра и Новый курс помогли модернизировать общественный договор для мира, перестроенного электричеством, двигателем внутреннего сгорания и массовым производством. Они сделали это, создав новые общественные институты, защиты и ожидания того, что должна обеспечивать справедливая экономика.
История показывает, что демократические общества могут реагировать на технологические потрясения с амбициями: переосмысливать общественный договор, посредничать между капиталом и трудом и поощрять широкое распределение выгод технологического прогресса, сохраняя при этом плюрализм, конституционные сдержки и противовесы и свободу нововведений. Переход к сверхинтеллекту потребует ещё более смелой формы промышленной политики, которая отражала бы способность демократических обществ действовать коллективно, в масштабе, чтобы формировать своё экономическое будущее так, чтобы сверхинтеллект приносил пользу всем.
Для OpenAI масштаб и охват воздействия сверхинтеллекта означает, что общество вступает в новую фазу экономической и социальной организации, которая фундаментально изменит работу, знания и производство. В обычные времена аргументы в пользу того, чтобы позволить рынкам работать самостоятельно, сильны. Исторически конкуренция, предпринимательство и открытое экономическое участие поднимали уровень жизни и расширяли возможности. Капитализм, каким бы несовершенным он ни был, остаётся эффективной системой для превращения человеческой изобретательности в общее процветание. Но промышленная политика может играть важную роль, когда одних рыночных сил недостаточно — когда новые технологии создают возможности и риски, с которыми существующие институты не способны управлять.
Три принципа
В структуре OpenAI три принципа должны направлять общественный договор со сверхинтеллектом.
Широкое распределение процветания. Обещание передового искусственного интеллекта — не просто технологический прогресс, а более высокое качество жизни для всех. У каждого должна быть возможность участвовать в новых возможностях, которые создаёт искусственный интеллект. Уровень жизни должен расти, люди должны видеть материальные улучшения через снижение стоимости, лучшее здравоохранение и образование, а также большую безопасность и возможности. Если искусственный интеллект окажется под контролем и на благо лишь немногих, в то время как большинство людей будут лишены свободы действий и доступа к возможностям, порождённым искусственным интеллектом, обещание технологии не будет выполнено.
Смягчение рисков. Переход к сверхинтеллекту сопряжён с серьёзными рисками — от экономических нарушений до неправильного использования в таких областях, как кибербезопасность и биология, до потери согласования или контроля над всё более мощными системами. Без эффективного смягчения люди пострадают. Избежание этих последствий требует создания новых институтов, технических средств защиты и структур управления, чтобы передовые системы оставались безопасными, контролируемыми и согласованными — снижая риск масштабного вреда, защищая критические системы и обеспечивая, чтобы люди могли полагаться на искусственный интеллект в своей повседневной жизни. По мере расширения возможностей безопасность должна расти вместе с ними.
Демократизация доступа и свободы воли. По мере того как возможности будут развиваться, некоторые системы могут нуждаться в контроле ради безопасности. Но широкое участие в экономике искусственного интеллекта не должно зависеть от доступа к самым мощным моделям — оно должно зависеть от доступа к полезному, доступному искусственному интеллекту, который сохраняет частную жизнь людей и расширяет их индивидуальную свободу воли. Избежание концентрации богатства и контроля потребует обеспечения того, чтобы люди везде могли использовать искусственный интеллект способами, которые дают им реальное влияние на работе, на рынках и через демократические процессы.
Фонд общественного богатства
Один из самых важных структурных сдвигов от индустриальной эпохи к эпохе интеллекта заключается в том, что рост производительности и создание богатства отделяются от рабочих мест и доходов. По мере того как стоимость труда в производстве уменьшается, а стоимость, создаваемая интеллектуальными машинами, увеличивается, богатство будет преимущественно доставаться тем, кто «владеет роботами». Те, кто на вершине, станут богаче, а те, кто зарабатывает на жизнь трудом, будут беднеть или будут полностью вытеснены. Таким образом, распределение богатства путём расширения собственности по всей экономике искусственного интеллекта является ключом к закрытию растущего разрыва в экономическом неравенстве.
OpenAI напрямую обращается к этой проблеме, призывая к созданию фонда общественного богатства, который предоставит каждому гражданину — включая тех, кто не инвестирует в финансовые рынки, — долю в экономическом росте, обеспеченном искусственным интеллектом. Фонд общественного богатства предназначен для того, чтобы люди напрямую разделяли выгоду от этого роста. Политики и компании, работающие с искусственным интеллектом, должны совместно определить, как лучше всего создать фонд, который мог бы инвестировать в разнообразные, долгосрочные активы, охватывающие рост как в компаниях, занимающихся искусственным интеллектом, так и в более широком круге фирм, внедряющих и использующих искусственный интеллект. Доходы от фонда могут распределяться непосредственно гражданам, позволяя большему числу людей участвовать в выгоде от роста, обеспеченного искусственным интеллектом, независимо от их начального богатства или доступа к капиталу.
Хотя официальное предложение OpenAI не указывает, «как лучше всего создать» такой фонд общественного богатства, Сэм Альтман предлагал в других местах, чтобы он был наполнен путём налогообложения компаний, превышающих определённую оценку, по ставке 2,5 процента от их рыночной стоимости каждый год, выплачиваемой акциями, передаваемыми в фонд. Если бы таким образом были созданы всеобщие сберегательные или инвестиционные счета, все граждане могли бы разделять сложные доходы, создаваемые ростом компаний в области искусственного интеллекта, точно так же, как сегодня 10 процентов самых богатых американцев владеют 93 процентами всех акций.
Само предложение OpenAI представлено не как готовый чертёж, а как отправная точка для разговора о том, к какому будущему должны стремиться открытые общества в мире, преобразованном технологией. Политический класс обязан принять вызов, взяв на вооружение это видение и превратив его в политику, которая охватывает общие интересы общества.
