Когда робота можно будет считать «личностью»?

Оценка: 0.0 1092 2 Наука и Технологии

08:59

В научной фантастике любят изображать роботов в виде автономных машин, способных принимать собственные решения и даже демонстрировать проявления личности. Тем не менее мы никак не избавимся от мысли, что роботы нам принадлежат как собственность и что у них нет прав, которые обычно имеются у людей. Но если машина может думать, принимать решения и действовать по собственной воле, если ей можно навредить или обязать нести ответственность за свои действия, должны ли мы перестать относиться к ней как к собственности и начать относиться к ней как к личности с правами?

А если робот вдруг станет полностью сознательным? Будут ли у него такие же права, как у нас, и такая же защита словом закона, ну или хотя бы что-то подобное?

Эти и другие вопросы уже обсуждает Комитет Европарламента по правовым вопросам. В прошлом году он выпустил проектный доклад и предложение создать набор гражданско-правовых норм для робототехники, регулирующих ее производство, применение, автономию и влияние на общество.

Из предложенных правовых решений наиболее интересным было предложение создать юридический статус «электронных лиц» для самых сложных роботов.

Осторожно: личность

В докладе признается, что улучшения автономных и когнитивных способностей роботов делает их большим, чем просто инструменты, и обычных правил ответственности, вроде договорной и деликтной ответственности, недостаточно для работы с ними.

Например, текущая директива ЕС об ответственности за вред, нанесенный роботами, покрывает только предсказуемый ущерб, причиненный производственными дефектами. В этих случаях ответственность несет производитель. Тем не менее, когда роботы смогут обучаться и адаптироваться, исходя из своего окружения, совершенно непредсказуемым образом, производителю будет сложнее предвидеть проблемы, которые могут причинить вред.

Также выражается обеспокоенность тем, как именно нужно рассматривать достаточно или недостаточно сложных роботов: как обычных людей, юридические лица (например, корпорации), животных или объекты. Вместо того чтобы втискивать их в существующую категорию, предлагается создание новой категории «электронных лиц» как более целесообразной.

В докладе не выступают за немедленные законодательные меры, впрочем. Вместо этого предлагают обновить законодательство, если роботы станут более сложными и обзаведутся поведенческими тонкостями. Если это произойдет, одна из рекомендаций состоит в том, чтобы уменьшить ответственность «создателей» пропорционально автономии робота, а также включить обязательное страхование.

Но зачем заходить так далеко, что создавать новую категорию «электронных лиц»? В конце концов, компьютеры еще не скоро обзаведутся близким к человеческому интеллекту, если это вообще случится.

Роботы — или, если точнее, программное обеспечение в их основе — становятся все сложнее и сложнее. Автономные (или «эмерджентные») машины становятся все более распространенными. Не прекращаются споры о правовых возможностях автономных устройств. Могут ли они проводить хирургические операции? Можно ли засудить робота-хирурга?

Робота учат «чувствовать» боль

Пока ответственность лежит на плечах производителя, это не особо сложные проблемы. Но если производителя нельзя будет определить с легкостью, например, в случае использования программного обеспечения с открытым исходным кодом? На кого подавать в суд, если создателей ПО — миллионы по всему миру?

Искусственный интеллект также начинает оправдывать свое название. Алан Тьюринг, отец современной вычислительной техники, предложил тест, пройдя который компьютер мог считать себя умным, если ему удастся одурачить, обмануть человека, выдать себя за живое существо. Машины уже близки к тому, чтобы пройти этот тест.

Список успехов роботов довольно длинный: компьютер пишет саундтреки к видео, неотличимые от написанных людьми, обходит «капчу», пишет прописью и обыгрывает лучших в мире покеристов.

В конечном итоге роботы могут сравняться с людьми по когнитивным способностям и даже быть чрезмерно человечными, например, если будут «чувствовать» боль. Если этот прогресс будет продолжаться, самосознательные роботы перестанут быть продуктом фантастики.

Доклад ЕС один из первых, посвященных этим вопросам, но другие страны тоже принимают активное участие. Юе-Сюань Вэн из Пекинского университета пишет, что Япония и Южная Корея считают, что мы будем сосуществовать с роботами к 2030 году. Японское Министерство экономики, торговли и промышленности создало серию руководств, адресованных вопросам бизнеса и безопасности касательно роботов следующего поколения.

Электронные лица

Если мы действительно решим давать роботам правовой статус, каким он будет? Если бы они вели себя как люди, мы могли бы относиться к ним как к правовым субъектам, а не объектам, либо разместить их где-то посередине. Субъекты имеют права и обязанности, и это дает им юридическую «личностность». Они не обязаны быть физическими лицами; корпорация таковым не является, но считается юрлицом. Юридические объекты, с другой стороны, не имеют прав и обязанностей, хотя могут иметь экономическую ценность.

Присуждение прав и обязанностей неодушевленному объекту или программе, независимой от создателей, может показаться… странным. Но мы уже наблюдаем, как корпорации создают фиктивные юрлица со своими правами и обязанностями.

Возможно, подход к роботам должен быть аналогичным? Если робот (или программа) достаточно сложный, чтобы удовлетворять определенным требованиям, ему можно дать статус корпорации. Это позволит ему зарабатывать деньги, платить налоги, иметь активы или подавать в суд, независимо от его создателей. Создатели робота будут подобно директорам корпораций.

Роботы будут рассматриваться в таком случае как юридические объекты, но в отличие от корпораций будут иметь физические тела. «Электронное лицо», таким образом, может быть сочетанием субъекта и объекта права.

Комментарии 2

Порядок вывода комментариев:

Lex2015 15.02.2017 11:01 [Материал]

"...Это позволит ему зарабатывать деньги, платить налоги, иметь активы или подавать в суд, независимо от его создателей. Создатели робота будут подобно директорам корпораций..." - прям мечта рабовладельца-робовладельца... А сколько времени понадобится такому роботу, что бы "вычислить" ненужность и вредность для него наличие директора? И начать имитировать объект, "заблокировав" оригинал...
По поводу "личность - не-личность" - как на счет утверждения - "Бог в каждом из нас"? Из него следует, что любое наше создание так же, как создание Бога, имеет душу... со всеми вытекающими последствиями.

maikl2m 15.02.2017 11:19 [Материал]

Цитата

...Пальцы Диктатора забарабанили по столу.
- Рабы! Стадо! Но я предвидел это. У меня готов другой план. Ты проберешься в склад, похитишь из контейнера водородную бомбу и сбросишь ее, куда я укажу. Начнется война, мобилизация - и мы будем иметь армию.
- Не хотят добром, погоним силой? - спросил сигом, и его голос показался Диктатору незнакомым.
- Мы вторгнемся в соседние страны - и колесо закрутится. А там все дело в том, чтобы выиграть войну. Тогда мы начнем строить...
- Лагеря смерти? - перебил его сигом. - Это уже было. И все знают, чем кончилось.
- Откуда тебе известно?
- Из книг.
- Но второй закон Программы запрещает посещение библиотеки.
- Ты мне дал разум. О какой же программе говоришь? Разум - это и есть программа.
Диктатор укоризненно покачал головой. Его белокурые волосы упали на лоб, из-за них, как из-за кустов, смотрели подстерегающие голубые глаза.
- Что я слышу? Ты повторяешь пустые слова?
- Можно применять разные слова. Но понятия "добро" и "зло", "гуманность" и "негуманность" точно соответствуют понятиям "разумно" и "неразумно". Это очень простая истина, но я рад, что наконец-то ее понял.
- И что ты еще понял? - спросил Диктатор, чувствуя, как в нем зарождается стон, растет, подступает к горлу. "Только бы не прорвался наружу", - подумал он и выдвинул ящик стола, в котором блеснул пистолет.
- У тебя дрожат губы, - изумленно сказал сигом, делая шаг к нему. - Неужели ты испытываешь страх?
Диктатор скользнул взглядом по портретам предков, по суровым надменным лицам завоевателей, и вдруг ему показалось, что и у них дрожат губы.
- И еще я понял, что если наши несчастья, ограниченность, смерть определены программой, - невозмутимо продолжал сигом, - то враг - тот, кто создал нас именно такими. Надо самим менять программу. И самим создавать себя.
Ящик стола выдвинулся с легким скрипом. Рука привычно сжала пистолет...
- И нам больше не нужен Диктатор, - заключил сигом.
Ударил выстрел.
...Несколько секунд сигом стоял над трупом, размышляя. Наконец сказал:
- Это разумно.

Игорь Росоховатский. Сигом и Диктатор

Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]

« Февраль 2017 »
Пн	Вт	Ср	Чт	Пт	Сб	Вс
		1	2	3	4	5
6	7	8	9	10	11	12
13	14	15	16	17	18	19
20	21	22	23	24	25	26
27	28