Выбор фона:
/ Новости сайта / Наука и Технологии / Исследование показало, что люди не смогут управлять сверхразумными машинами
12.01.2021

Исследование показало, что люди не смогут управлять сверхразумными машинами

Оценка: 0.0    1201 3 Наука и Технологии
16:01

Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.

Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.


 
Источник:  https://naked-science.ru/


Поделитесь в социальных сетях

Комментарии 3

0  
Alexei2012 13.01.2021 11:25 [Материал]
Ерунда. Спор о т.н. машинном Искусственном Интеллекте начался не сегодня. Любимая тема трансгуманистов о превосходстве ИИ над человеком в ближайшем будущем. Но, еще более 10 лет назад известный физик Пенроуз в содружестве с нейрофизиологами, показал, что это глубокое заблуждение. ( https://u.to/RjGnAg ). Что было подтверждено их недавними исследованиями ( https://u.to/h54uBg ), как и другими специалистам . ( https://u.to/j8OYCQ ). Принципиальная разница – сознание, мышление человека относятся к т.н. «невычисляемым» процессам, хорошо известным в кв. физике и которые не поддаются алгоритмизации, что делает мозг всегда уровнем выше любого ИИ на основе компьютера. Еще одно важнейшее отличие – человек способен к алогичным мыслям и поступкам, которые нередко меняют Мир. Для машинного ИИ это не доступно. Впрочем, лавинообразная роботизация действительно может привести к социальному взрыву. К Human Revolution. О чем не раз предупреждала ScFi и не только ScFi
0  
Nebilung 13.01.2021 13:02 [Материал]
Какой бы супер пупер интелект не был бы у человека у нас есть физические ограничения.
Останови электростанции, обесточь город и не будет света, газа, тепла, воды, а проведи ковровые бомбардировки городов и вот человечество уже стало тараканом среди развалин, зиму переживут единицы.
Дальше продолжать?
0  
Nebilung 12.01.2021 23:48 [Материал]
Ну наконец то до кого то начинает доходить с чем они играют.
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
Последние комментарии
Если вы слышите голос в голове во время мысленного монолога — вам повезло
"Голоса часто воспринимаются как внешние, исходящие откуда-то вне себя, в то время как собствен (от Gr70)
В Германии клад с тремя тысячами древнеримских монет озадачил археологов
Это Пруссия и есть одна интереснаяпрусская традиция ,которая дольше всего прожила на территории Бело (от Везунчик)
Биологи обнаружили дельфина, разговаривающего с собой
топзик - не трогайте мою маму)))
ты наверное подумал что что то умное сказал?
а ты с к (от satt)

Биологи обнаружили дельфина, разговаривающего с собой
Ну тут ещё надо провести исследование что происходит когда человек ,заблудившийся в лесу ,аукает. Он (от Везунчик)
Обнаружен уникальный древнеегипетский символ
На рисунке к статье как раз хамелеон. Обычный рисунок с натуры. Если говорить о зодиакальных символа (от Везунчик)