Военные научат роботов приемлемому поведению

Агентство перспективных оборонных разработок (DARPA) министерства обороны США инициировало проект разработки программного обеспечения для роботов, которое будет управлять их поведением в той или иной ситуации.  Как пишет C4ISRNET, предполагается, что такая доработка позволит существенно улучшить отношение людей к роботизированным системам.

Существующие сегодня роботизированные системы могут иметь высокую степень автономности. При этом они не способны действовать в соответствии с моральными нормами или правилами, которые считаются приемлемыми в той или иной местности или ситуации.

В настоящее время исследователи DARPA занимаются сбором данных о том, какое именно поведение считается людьми приемлемым в конкретной местности и в конкретной ситуации. По словам руководителя проекта Резы Ганадана, уже полученные данные вполне можно перевести на уровень алгоритма. Например, робота вполне можно научить соблюдать тишину в библиотеке или в театре.

Исследования в области норм поведения пока находятся в начальной стадии. По словам Ганадана, исследователям еще предстоит изучить наиболее распространенные ситуационные, культурные и иерархические нормы поведения. Сколько времени может потребоваться на сбор достаточного количества данных, не уточняется.

Первые наработки по проекту, полагают в DARPA, можно будет применить в гражданской сфере. Например, голосовые помощники вроде Siri могут научиться ставить телефон на беззвучный режим в кинотеатре. Обучение же нормам поведения боевых роботов состоится еще не скоро, поскольку им придется действовать в гораздо более сложных ситуациях.

Так, помимо общепринятых норм поведения для той или иной местности в военных роботов нужно будет еще заложить знания о правилах и обычаях ведения войны, недопустимых действиях и правилах ведения боя. Другие подробности о проекте пока не раскрываются.

В середине прошлого года ВВС США дали старт проекту разработки голосового помощника для командных пунктов. Согласно требованию военных, этот голосовой помощник должен быть аналогичен Siri, Alexa или Google Home. Предполагается, что новая система позволит ускорить обработку информации и повысить скорость управления действиями воздушных сил.

Следует отметить, что сегодня уже существуют некоторые роботизированные военные системы, которые могут действовать абсолютно автономно, включая применение штатного вооружения. Тем не менее, функция применения оружия в таких системах не используется. Дело в том, что использование оружия роботами практически никак не оговорено международными законами и обычаями ведения войны.