Исследование показало, что люди не смогут управлять сверхразумными машинами
Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.
Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.
«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.
Комментарии 3
|
0  
Alexei2012
13.01.2021 11:25
[Материал]
Ерунда. Спор о т.н. машинном Искусственном Интеллекте начался не сегодня. Любимая тема трансгуманистов о превосходстве ИИ над человеком в ближайшем будущем. Но, еще более 10 лет назад известный физик Пенроуз в содружестве с нейрофизиологами, показал, что это глубокое заблуждение. ( https://u.to/RjGnAg ). Что было подтверждено их недавними исследованиями ( https://u.to/h54uBg ), как и другими специалистам . ( https://u.to/j8OYCQ ). Принципиальная разница – сознание, мышление человека относятся к т.н. «невычисляемым» процессам, хорошо известным в кв. физике и которые не поддаются алгоритмизации, что делает мозг всегда уровнем выше любого ИИ на основе компьютера. Еще одно важнейшее отличие – человек способен к алогичным мыслям и поступкам, которые нередко меняют Мир. Для машинного ИИ это не доступно. Впрочем, лавинообразная роботизация действительно может привести к социальному взрыву. К Human Revolution. О чем не раз предупреждала ScFi и не только ScFi
|
|
0
Nebilung
13.01.2021 13:02
[Материал]
Какой бы супер пупер интелект не был бы у человека у нас есть физические ограничения.
Останови электростанции, обесточь город и не будет света, газа, тепла, воды, а проведи ковровые бомбардировки городов и вот человечество уже стало тараканом среди развалин, зиму переживут единицы. Дальше продолжать? |
