Терминаторы: авиаудары беспилотников поднимают вопросы этики у роботов-убийц

Как говорится во внутреннем докладе Министерства обороны Британии, всё более широкое использование беспилотных самолётов в боевых ситуациях порождает серьёзные моральные и правовые вопросы, и угрожает превратить войну в подобие войны человечества против роботов.

Доклад предупреждает об опасности «постепенного приближения к реальности фантастического фильма Терминатор», где за людьми охотились роботы-убийцы. В нём говорится, что темпы технологического развития ускоряются так быстро, что Британия должна как можно быстрее установить политику того, что будет представлять из себя «приемлемое поведение машины».

В докладе говорится, что «расширение использования в последнее время беспилотных летательных аппаратов над Пакистаном и Йеменом может стать провозвестником новой эры». Ссылаясь на «дронов-киллеров» в Афганистане, в докладе отмечается, что «по мере приобретения военными системами всё большей самостоятельности, чувства всё более накаляются».

Повстанцы «получают выгоду каждый раз, когда происходит ошибка», что позволяет им позиционировать себя в качестве жертвы трусливого хулигана, который не желает рисковать своими солдатами, но с удовольствием убивает на расстоянии», добавляется в докладе.

На прошлой неделе Пакистан потребовал, чтобы США прекратили авиаудары с беспилотников, а ЦРУ резко сократило число своих агентов в стране. Дэвид Кэмерон в декабре сказал, что с июня 2008 года британские дроны уничтожили 124 повстанца, назвав их «классическим примером современного оружия, которое необходимо в условиях сегодняшних военных действий». Дроны, известные как Жнецы, на сегодняшний день выпустили в Афганистане 167 бомб и управляемых ракет.

С возникновением таких явлений как «бой из казармы» или «удалённое сражение» появилась необходимость решения такого вопроса: можно ли считать человека, находящегося, иногда, за тысячи километров, и идущего домой после «работы» - законной мишенью, на том основании, что он является стороной, принимающей участие в боевых действиях. «Полностью ли мы осознаём психологические эффекты удалённых операторов, которые ведут военные действия на расстоянии?», спрашивается в докладе. Существует философская концепция, которая предполагает, что для того, чтобы в войне существовала мораль, а не только право, «необходимо связывать убийство врагов с самопожертвованием, или хотя бы с риском для себя».

Далее доклад продолжает: «Какова роль человека с моральной и этической позиции в автоматической системе? … для роботизированой системы школьный автобус и танк являются одним и тем же – не более чем алгоритмы в программе… у робота нет логических умозаключений, путей и способов их принятия, не нужно знать, что из себя представляет цель». Один из вебмастеров британского вебсайта Drone Wars, Крис Коул, который отслеживает развитие беспилотных авиасистем, одобряет исследование Министерства обороны, и призывает прекратить использование британскими войсками беспилотных самолётов.

В докладе отмечается, что МО «в настоящее время не намерено разрабатывать системы, которые работают без вмешательства человека».

В докладе также указываются преимущества беспилотных систем – предотвращение потенциальных потерь среди лётного экипажа, что означает, что «это само по себе является оправдательным фактором». Далее в нём добавляется: «роботы не могут быть эмоциональными, не могут ненавидеть. Ими не может управлять гнев при осуществлении незаконных действий вроде того, что произошло в Май Лай [расправа, учинённая расправа американскими солдатами над сотнями безоружных гражданских в Южном Вьетнаме в марте 1968 года].

«Поэтому в теории автономная война должна быть более этической и правовой. Однако мы должны быть уверены, что существует ответственность за мышление робота, и это порождает определённое количество трудных дебатов. Будет программист виновен в военном преступлении, если ошибка системы приведёт к противозаконному действию? Где намерения, необходимые для того, чтобы инцидент превратился в преступление?»

Изготовленный в США General Atomics Reaper в настоящее время является единственным беспилотным самолётом Королевских ВВС. Он может нести до 4 управляемых ракет Hellfire, две 230-килограммовые бомбы и 12 управляемых бомб Paveway II. Он может находиться в воздухе до 18 часов, покрывает расстояние в 3600 миль (~5800км; прим. mixednews), и поднимается на высоту до 15 километров.

Управляют Жнецом операторы Королевских ВВС, находящиеся на авиабазе Крич в Неваде. Управление осуществляется посредством передачи данных через спутник. Также Министерство обороны финансирует разработку дальнего беспилотного самолёта под названием Таранис, который будет летать между континентами со сверхзвуковой скоростью, и при помощи спутников сможет управляться из любой точки мира.

перевод для mixednews – Raul