Не доверяйте роботам

По мере того как роботы приживаются у нас в домах, они могут красть секреты вашей жизни, которыми вы не хотите делиться, считают два эксперта в законах робототехники и философии технологий. В феврале женщина из Южной Кореи спала на полу, когда ее робот засосал вакуумом ее волосы, заставив вызывать неотложку. Возможно, это не мрачное будущее, о котором предупреждал Стивен Хокинг, — когда разумные устройства «провозгласят конец человеческой расы» — но такой случай подчеркивает неожиданные опасности приглашения роботов в наши дома.

Есть много других примеров, когда разумные технологии сходят с ума, но чаще они связаны с каким-нибудь обманом, а не физической опасностью. Зловредные боты, разработанные злоумышленниками, повсеместно тусуются на сайтах соцмедиа и повсюду в онлайне. Мобильное приложение для знакомств Tinder, к примеру, частенько наводняют боты, выдающие себя за реальных людей, которые пытаются манипулировать пользователями и извлечь из них информацию о кредитной карте. Несложно предположить, что такие роботы-злоумышленники очень скоро могут проникнуть и в наш физический мир.

Между тем появляется все больше свидетельств в пользу того, что мы склонны выбалтывать наши самые сокровенные, самые темные секретики антропоморфным роботам, чьи милые личики скрывают эксплуататорский код — дети так давно делают. Как же защитить себя от ведущих двойную игру десептиконов?

После того как вы пригласили робота в свой дом, вы должны совладать со своими ожиданиями. Фильмы и реклама, возможно, научили вас ожидать классного взаимодействия с милым домашним роботом, но перед нами еще длинный путь, прежде чем они станут социально активными, как это показывают на экране. Учитывая пропасть между ожиданием и реальностью, важно избежать обмана в стиле «Волшебника страны Оз», когда пользователи готовы поверить, что роботы действуют автономно, но на самом деле оператор должен дистанционно управлять их действиями.

Переоценка и недооценка роботизированных систем может стать особенно острой проблемой в тех случаях, когда пользователи чувствуют себя комфортно с бесчувственным устройством, которому раскрывают интимную информацию о себе. К примеру, существует сервис «Невидимый парень». За ежемесячную подписку на телефон отправляются романтические тексты и голосовые сообщения от поддельного любовника. И хотя компания изначально планировала сделать сервис полностью автоматизированным, технологии были недостаточно сложны, поэтому в реальности амурные письма пришлось делать реальным работникам. Однако не все пользователи догадываются, как работает такая система, поэтому беззастенчиво считали, что общаются с компьютером, выдавая ему все свои грязные мыслишки, или, напротив, думали, что общаются с реальным человеком, требуя от машины слишком многого.

Посыл очевиден: по мере того как роботы становятся все более подключенными к Интернету и способными реагировать на естественный язык, нужно быть особенно бдительным относительно того, с кем или с чем вы общаетесь.

Также стоит серьезно задуматься о том, где хранится вся отправленная информация и кому она будет отправляться, когда роботы смогут записывать каждый наш шаг. Некоторые записывающие устройства, спроектированные для развлечения, могут отвечать более каверзным целям. К примеру, Nixie, носимая камера, которая может взлетать с вашего запястья и делать снимки с воздуха вокруг вас. Несложно предположить, к чему можно приспособить такую технологию.

Большинство людей защищают свои секреты в присутствии записывающих устройств. Но что может произойти, когда мы привыкнем к домашнему роботу, который будет следовать за нами по пятам? Мы ослабим свою бдительность, посчитав таких роботов членами семьи. Если технологии вокруг нас могут записывать и обрабатывать речь, изображения и движения — не говоря уж о самых сочных наших секретах — что будет с этой всей информацией? Где она будет храниться, кто получит к ней доступ? Если история Интернета чему-то нас и научила, так это тому, что все эти детали на вес золота для рекламных компаний. Если мы привыкнем к роботам, внедрившимся в нашу повседневную жизнь, наши слова и поступки, возможно, поставят нас под угрозу.

Каков безопасный способ приветствовать роботов в наших домах, общественных местах и социальной жизни? Мы должны с осторожным оптимизмом считать разумные машины нашими спутниками, признавая при этом необходимость очерчивания строгих границ для роботов, способных обманывать и манипулировать.