Выбор фона:
/ Новости сайта / Наука и Технологии / Исследование показало, что люди не смогут управлять сверхразумными машинами
12.01.2021

Исследование показало, что люди не смогут управлять сверхразумными машинами

Оценка: 0.0    680 3 Наука и Технологии
16:01

Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.

Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.


 
Источник:  https://naked-science.ru/

Поделитесь в социальных сетях

Комментарии 3

0  
Alexei2012 13.01.2021 11:25 [Материал]
Ерунда. Спор о т.н. машинном Искусственном Интеллекте начался не сегодня. Любимая тема трансгуманистов о превосходстве ИИ над человеком в ближайшем будущем. Но, еще более 10 лет назад известный физик Пенроуз в содружестве с нейрофизиологами, показал, что это глубокое заблуждение. ( https://u.to/RjGnAg ). Что было подтверждено их недавними исследованиями ( https://u.to/h54uBg ), как и другими специалистам . ( https://u.to/j8OYCQ ). Принципиальная разница – сознание, мышление человека относятся к т.н. «невычисляемым» процессам, хорошо известным в кв. физике и которые не поддаются алгоритмизации, что делает мозг всегда уровнем выше любого ИИ на основе компьютера. Еще одно важнейшее отличие – человек способен к алогичным мыслям и поступкам, которые нередко меняют Мир. Для машинного ИИ это не доступно. Впрочем, лавинообразная роботизация действительно может привести к социальному взрыву. К Human Revolution. О чем не раз предупреждала ScFi и не только ScFi
0  
Nebilung 13.01.2021 13:02 [Материал]
Какой бы супер пупер интелект не был бы у человека у нас есть физические ограничения.
Останови электростанции, обесточь город и не будет света, газа, тепла, воды, а проведи ковровые бомбардировки городов и вот человечество уже стало тараканом среди развалин, зиму переживут единицы.
Дальше продолжать?
0  
Nebilung 12.01.2021 23:48 [Материал]
Ну наконец то до кого то начинает доходить с чем они играют.
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
«  Январь 2021  »
ПнВтСрЧтПтСбВс
    123
45678910
11121314151617
18192021222324
25262728293031
Последние комментарии
Ученый выдвинул теорию об эволюции всего живого в крабов
Что у вас сегодня в Кащенко, рожки или вермишель? (от sstels)
Десять самых ожидаемых технологий и событий: чем удивят мир в 2021 году
Ага, это как в Красноярск прислали б/у автобусы из (от sstels)
Десять самых ожидаемых технологий и событий: чем удивят мир в 2021 году
Ты отстала от жизни лет на двадцать, они УЖЕ делаю (от sstels)
Ученые показали необычное явление в стратосфере снятое с борта МКС
Похоже на то. Но с учетом того, что ученые и сами (от KoshkaHavroshka)
Пять мест на Земле, куда вас не пустят
В КНДР пускают туристов, но не всех. (от ElGrandoSmokio)