Выбор фона:
/ Новости сайта / Наука и Технологии / Ученые придумали как предотвратить конец света из-за роботов
26.11.2019

Ученые придумали как предотвратить конец света из-за роботов

Оценка: 0.0    397 2 Наука и Технологии
09:30

Ученые Университета Массачусетса в Амхерсте разработали платформу для создания алгоритмов, которые должны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку. Об этом сообщает издание Science Alert.

Исследователи назвали алгоритмы селдоновскими — в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для человека, они позволяют системе определить, какое поведение является нежелательным и не допустить его.

В качестве примера ученые приводят использование селдоновских алгоритмов для лечения диабета, когда автоматическая система контролирует инсулиновую помпу. В этом случае нежелательным поведением является то, что способствует критически низкому уровню инсулина в крови или гипогликемии. Исследователи также разработали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые обнаруживались у некоторых других алгоритмов.

В октябре бывший разработчик Google Лара Нолан заявила, что оружие с искусственным интеллектом, способное принимать решение без человека, сможет уничтожить города мира за считанные секунды. Если в одном районе будет находиться много подобных систем, то существует вероятность «внезапной войны», так как они среагируют друг на друга почти моментально.


 
Источник:  https://lenta.ru/

Поделитесь в социальных сетях


Комментарии 2

0  
Maximum 26.11.2019 22:07 [Материал]
конец света еще не наступил, но нас уже спасли
0  
Partizan-16 26.11.2019 17:27 [Материал]
Не наделять их эмоциями?
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]
ТОП Новостей
Материалов за сегодня нет.
Разговоры у камина
Календарь