Выбор фона:
/ Новости сайта / Наука и Технологии / Ученые придумали как предотвратить конец света из-за роботов
26.11.2019

Ученые придумали как предотвратить конец света из-за роботов

Оценка: 0.0    884 2 Наука и Технологии
09:30

Ученые Университета Массачусетса в Амхерсте разработали платформу для создания алгоритмов, которые должны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку. Об этом сообщает издание Science Alert.

Исследователи назвали алгоритмы селдоновскими — в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для человека, они позволяют системе определить, какое поведение является нежелательным и не допустить его.

В качестве примера ученые приводят использование селдоновских алгоритмов для лечения диабета, когда автоматическая система контролирует инсулиновую помпу. В этом случае нежелательным поведением является то, что способствует критически низкому уровню инсулина в крови или гипогликемии. Исследователи также разработали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые обнаруживались у некоторых других алгоритмов.

В октябре бывший разработчик Google Лара Нолан заявила, что оружие с искусственным интеллектом, способное принимать решение без человека, сможет уничтожить города мира за считанные секунды. Если в одном районе будет находиться много подобных систем, то существует вероятность «внезапной войны», так как они среагируют друг на друга почти моментально.


 
Источник:  https://lenta.ru/


Поделитесь в социальных сетях

Комментарии 2

0  
Maximum 26.11.2019 22:07 [Материал]
конец света еще не наступил, но нас уже спасли
0  
Partizan-16 26.11.2019 17:27 [Материал]
Не наделять их эмоциями?
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
Последние комментарии
Биологи обнаружили дельфина, разговаривающего с собой
топзик - не трогайте мою маму)))
ты наверное подумал что что то умное сказал?
а ты с к (от satt)

Биологи обнаружили дельфина, разговаривающего с собой
Ну тут ещё надо провести исследование что происходит когда человек ,заблудившийся в лесу ,аукает. Он (от Везунчик)
Обнаружен уникальный древнеегипетский символ
На рисунке к статье как раз хамелеон. Обычный рисунок с натуры. Если говорить о зодиакальных символа (от Везунчик)
Биологи обнаружили дельфина, разговаривающего с собой
У нас тут тоже есть такой "дельфин". topzz)
Обнаружен уникальный древнеегипетский символ
Тот кто выбивал эту фигуру(символ,рисунок) не знал что будет через много веков,символом козерога.Он, (от coka)