Выбор фона:
/ Новости сайта / Наука и Технологии / Ученые придумали как предотвратить конец света из-за роботов
26.11.2019

Ученые придумали как предотвратить конец света из-за роботов

Оценка: 0.0    1005 2 Наука и Технологии
09:30

Ученые Университета Массачусетса в Амхерсте разработали платформу для создания алгоритмов, которые должны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку. Об этом сообщает издание Science Alert.

Исследователи назвали алгоритмы селдоновскими — в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для человека, они позволяют системе определить, какое поведение является нежелательным и не допустить его.

В качестве примера ученые приводят использование селдоновских алгоритмов для лечения диабета, когда автоматическая система контролирует инсулиновую помпу. В этом случае нежелательным поведением является то, что способствует критически низкому уровню инсулина в крови или гипогликемии. Исследователи также разработали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые обнаруживались у некоторых других алгоритмов.

В октябре бывший разработчик Google Лара Нолан заявила, что оружие с искусственным интеллектом, способное принимать решение без человека, сможет уничтожить города мира за считанные секунды. Если в одном районе будет находиться много подобных систем, то существует вероятность «внезапной войны», так как они среагируют друг на друга почти моментально.


 
Источник:  https://lenta.ru/


Поделитесь в социальных сетях

Комментарии 2

0  
Maximum 26.11.2019 22:07 [Материал]
конец света еще не наступил, но нас уже спасли
0  
Partizan-16 26.11.2019 17:27 [Материал]
Не наделять их эмоциями?
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
«  Ноябрь 2019  »
Пн Вт Ср Чт Пт Сб Вс
    123
45678910
11121314151617
18192021222324
252627282930
Последние комментарии
Вимана - летательный аппарат древних богов
Читая переводы с санскрита о "виманах" и антигравитационных двигателях для космических кор (от faust2012)
Нераскрытые тайны Сибири
Тысячи могильников с сибирской язвой по всей Сибири, вот вам и ответ, где все "цивилизации" (от Tihiro)
Откуда в шахте российского города Донецк колеса которым 300 миллионов лет?
На каждую удивительную археологическую находку в Донецке всегда найдется какой-нибудь тупой дилехтор (от faust2012)
Две стороны человеческой природы: почему мы становимся ангелами или дьяволами
Автор статьи демонстрирует очень опасные симптомы разложения личности которые проявляются в расчелов (от Везунчик)
Почти две тысячи озёр мира стали меняться синхронно, что грозит одновременными экологическими кризисами на разных континентах
Это особенности климатической картины. Ископаемые тропические растения на сервере, возможно, не резу (от Везунчик)