Ваш босс скоро может стать программой ИИ

Культовый классический фильм 1999 года "Офисное пространство" рассказывает о тоскливой жизни Питера, инженера-программиста, живущего в кабинете. Каждую пятницу Питер пытается избежать своего босса и страшных слов: "Мне нужно, чтобы ты пришел завтра".

Эта сцена все еще популярна в Интернете почти 25 лет спустя, потому что она отражает тревожные аспекты трудовых отношений - беспомощность, которую чувствует Питер, фальшивое сочувствие, с которым его босс произносит эту директиву, бесконечное требование повышения производительности.

В поп-культуре нет недостатка в изображениях ужасных начальников. Есть даже фильм с таким названием. Но ситуация может стать еще хуже.

Что делать с новыми боссами, которые поселяются на рабочих местах во всех отраслях: менеджерами-алгоритмами?

Возникновение алгоритмического управления

Перспектива того, что роботы заменят работников, часто освещается в СМИ. Но автоматизируется не только труд. Менеджеры тоже.

Все чаще мы видим, как программные алгоритмы берут на себя управленческие функции, такие как отбор заявок на работу, делегирование работы, оценка эффективности труда и даже принятие решений об увольнении сотрудников.

По мере того, как устройства наблюдения и контроля становятся все более сложными, количество задач, перекладываемых с людей на машины, будет только увеличиваться. В частности, носимые технологии, которые могут отслеживать перемещения сотрудников.

С точки зрения работодателя, перекладывание обязанностей менеджеров на алгоритмы может принести немалую пользу. Алгоритмы снижают издержки бизнеса за счет автоматизации задач, на выполнение которых у человека уходит больше времени. По последним данным за год, компания Uber с ее 22 800 сотрудниками может контролировать 3,5 миллиона водителей.

Системы искусственного интеллекта также могут находить способы оптимизации организации бизнеса. Модель ценообразования Uber (временное повышение цен для привлечения водителей в периоды загруженности) возможна только потому, что алгоритм может обрабатывать изменения спроса на пассажиров в режиме реального времени.

Риски

Некоторые проблемы, связанные с управлением алгоритмами, привлекают больше внимания, чем другие. Пожалуй, самый обсуждаемый журналистами, исследователями и политиками риск - это алгоритмическая предвзятость.

Печально известным примером является неработающая система ранжирования CV компании Amazon. Эта программа, которая использовалась для оценки резюме соискателей по шкале от одного до пяти, была прекращена, поскольку она постоянно оценивала резюме с мужскими характеристиками выше, чем аналогичные резюме, которые считались более женственными.

Но есть еще несколько проблем, связанных с развитием алгоритмического управления.

Одна из них - проблема прозрачности. Классические алгоритмы запрограммированы на принятие решений на основе пошаговых инструкций и выдают только запрограммированные результаты.

Алгоритмы машинного обучения, с другой стороны, учатся принимать решения самостоятельно после получения большого количества обучающих данных. Это означает, что по мере развития они становятся все более сложными, что делает их работу непрозрачной даже для программистов.

Когда обоснование такого решения, как увольнение сотрудника, не является прозрачным, речь идет о сомнительном с моральной точки зрения механизме. Было ли решение алгоритма об увольнении сотрудника предвзятым, коррумпированным или произвольным?

Если да, то его результат будет считаться морально нелегитимным, если не противозаконным в большинстве случаев. Но как работник может доказать, что его увольнение было результатом незаконных мотивов?

Управление с помощью алгоритмов усугубляет дисбаланс власти между работодателями и работниками, ограждая злоупотребления властью от возмещения ущерба. Кроме того, алгоритмы исключают из трудовых отношений важнейшую человеческую функцию.

Это то, что покойный философ Жан-Жак Руссо называл "природным чувством жалости" и "врожденным отвращением к тому, чтобы видеть страдания ближнего".

Даже если не все менеджеры-люди сострадательны, вероятность того, что менеджеры-алгоритмы будут сострадательны, равна нулю.

В нашем исследовании курьеров Amazon Flex мы наблюдали, с каким отчаянием работники платформы реагируют на неспособность алгоритма принимать человеческие призывы.

Алгоритмы, созданные для максимизации эффективности, безразличны к чрезвычайным ситуациям, связанным с уходом за детьми. Они не терпят, когда работники двигаются медленно, потому что все еще учатся работать. Они не ведут переговоры, чтобы найти решение, которое поможет работнику, борющемуся с болезнью или инвалидностью.

Что мы можем сделать

Риски, с которыми сталкиваются работники, находящиеся под управлением алгоритмов, уже находятся в центре внимания исследователей, профсоюзов и разработчиков программного обеспечения, которые пытаются продвигать хорошие условия труда. Американские политики обсуждают расширение цифровых прав для работников.

Другие решения включают регулярную оценку влияния алгоритмов на работников и предоставление работникам права голоса при использовании этих технологий.

Хотя предприятия могут счесть алгоритмы управления весьма прибыльным делом, необходимость получения прибыли не является причиной терпеть страдания работников.

В конце концов Питер научился управлять своим начальником и делать работу приятной. Он сделал это, продемонстрировав свою ценность в очень личных встречах с высшим руководством. Вопрос в том, как бы он справился, если бы его боссом был алгоритм? The Conversation

Роберт Донохью, кандидат наук, социальные и политические науки, Университет Бата и Тиаго Виейра, кандидат наук, политические и социальные науки, Европейский университетский институт