Выбор фона:
/ Новости сайта / Наука и Технологии / Ученые придумали как предотвратить конец света из-за роботов
26.11.2019

Ученые придумали как предотвратить конец света из-за роботов

Оценка: 0.0    881 2 Наука и Технологии
09:30

Ученые Университета Массачусетса в Амхерсте разработали платформу для создания алгоритмов, которые должны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку. Об этом сообщает издание Science Alert.

Исследователи назвали алгоритмы селдоновскими — в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для человека, они позволяют системе определить, какое поведение является нежелательным и не допустить его.

В качестве примера ученые приводят использование селдоновских алгоритмов для лечения диабета, когда автоматическая система контролирует инсулиновую помпу. В этом случае нежелательным поведением является то, что способствует критически низкому уровню инсулина в крови или гипогликемии. Исследователи также разработали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые обнаруживались у некоторых других алгоритмов.

В октябре бывший разработчик Google Лара Нолан заявила, что оружие с искусственным интеллектом, способное принимать решение без человека, сможет уничтожить города мира за считанные секунды. Если в одном районе будет находиться много подобных систем, то существует вероятность «внезапной войны», так как они среагируют друг на друга почти моментально.


 
Источник:  https://lenta.ru/


Поделитесь в социальных сетях

Комментарии 2

0  
Maximum 26.11.2019 22:07 [Материал]
конец света еще не наступил, но нас уже спасли
0  
Partizan-16 26.11.2019 17:27 [Материал]
Не наделять их эмоциями?
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

Похожие материалы

Разговоры у камина
Календарь
Последние комментарии
Исследователи из Иллинойса обнаружили на зубной щетке сотни ранее неизвестных вирусов
В пастах - яд, на щетках - бактерии... Чистить зубы опасно для здоровья.
Полоскайте рот родни (от topzz)

Археологи испытали найденный в гробнице "самогонный аппарат"
Навеяло:
Песня студентов-археологов

Наш Федя с детства связан был с землёю —
alsm74)

Опровергнута традиционная теория звездообразования
"...без вмешательства сильных магнитных полей. Эти невидимые поля, как предполагают астрономы, (от topzz)