Ценообразование на основе ИИ может эксплуатировать потребителей вне контроля регуляторов

Вы заходите на сайт авиакомпании. Выбираете билет. Видите цену. Покупаете. Ваш сосед заходит на тот же сайт, выбирает тот же рейс, то же место. И видит другую цифру. Выше. Или ниже. Он никогда об этом не узнает. Вы — никогда.

Добро пожаловать в мир, где у каждого товара — столько цен, сколько на него смотрят глаз.

Невидимый аукцион

То, что ещё двадцать лет назад казалось фантастикой, сегодня стало рутиной. Крупные интернет-платформы научились назначать цену не для рынка, не для группы, не даже для сегмента. Для вас. Лично. Прямо сейчас. В реальном времени.

Механизм прост и пугает своей эффективностью. Алгоритм собирает всё, что может о вас узнать. Не только то, что вы покупали раньше. Не только то, как долго вы смотрели на товар перед тем, как положить в корзину. Но и то, с какого устройства вы зашли. Где находитесь. Какая у вас операционная система. Сколько заряда осталось на телефоне.

И на основе этой мешанины данных — часть из которых даже не считается личной информацией в юридическом смысле — машина выносит вердикт. Сколько вы готовы заплатить? Не сколько стоит вещь. А сколько вы готовы отдать. Потому что эти две цифры — разные. И чем точнее алгоритм угадает вашу готовность, тем больше заработает платформа.

Три способа ободрать покупателя

Исследователи, изучающие этот феномен, выделили три типа алгоритмического ценообразования. И только один из них относительно безобиден.

Первый тип — персональный. Платформа собирает данные, которые позволяют идентифицировать вас как уникального пользователя. История покупок. Клики. Адрес. Возраст. Пол. Всё, что можно привязать к конкретному человеку. На основе этого профиля строится цена. Именно так работает Amazon уже больше двадцати лет — с тех пор, как в начале двухтысячных годов журналисты обнаружили, что один и тот же набор игрушек продаётся разным покупателям по разным ценам.

Второй тип — аффинный, или групповой. Здесь платформа не пытается узнать вас лично. Ей достаточно отнести вас к какой-то категории. Владельцы дорогих телефонов — предположительно более платёжеспособные. Пользователи с низким зарядом батареи — более отчаянные, им нужно срочно. Члены клуба — уже лояльны, а значит, готовы платить больше. Каждый из этих признаков по отдельности не идентифицирует человека. Но в сумме они создают портрет, которому можно назначить цену.

Третий тип — безличный. Цена зависит от погоды, времени суток, загруженности сервера, количества свободных мест. Это классическая динамика, существовавшая задолго до интернета. Билеты на самолёт стоят дороже перед праздниками. Номер в отеле — в высокий сезон. Здесь нет ничего тайного. И именно этот тип — единственный, который не вызывает серьёзных претензий у защитников приватности.

Серая зона закона

Проблема в том, что первые два типа — персональный и аффинный — балансируют на грани законности. И эта грань, как обнаружили юристы, очень шаткая.

Европейский закон о защите данных (Общий регламент по защите данных) был создан для того, чтобы контролировать обработку персональной информации. Если платформа знает ваше имя, адрес, номер телефона — закон работает. Если она отслеживает вас по уникальному идентификатору в браузере — закон тоже работает, хотя и с натяжкой.

Но что делать с данными, которые не привязаны к конкретному человеку? Заряд батареи — это персональная информация? Марка телефона? Факт наличия платной подписки?

Юридический ответ сегодня таков: скорее нет, чем да. Эти сведения не позволяют выделить вас из толпы. Миллионы людей пользуются айфонами. Миллионы — разряжают их к вечеру. Эти данные — анонимны. А анонимные данные закон не защищает.

Парадокс в том, что, комбинируя анонимные данные, алгоритм может узнать о вас больше, чем из открытой анкеты. Вы не давали платформе разрешения оценивать вашу платёжеспособность по марке телефона. Но платформа делает это. И закон对此 молчит.

Дыра в защите

Авторы исследования указывают на техническую деталь, которая превращает эту юридическую серую зону в чёрную дыру. Статья 11 Регламента о защите данных устанавливает исключение: если контролёр данных не может идентифицировать конкретного человека, то статьи с 15 по 20 — о праве на доступ, исправление, удаление — не применяются.

Звучит как юридическая тонкость. Но на практике это означает: вы не можете узнать, какие «анонимные» данные о вас собирают. Не можете их исправить, если они неверны. Не можете потребовать их удалить. Потому что с точки зрения закона, этих данных не существует. Их просто нет. А то, чего нет, нельзя ни увидеть, ни оспорить.

При этом сами платформы отлично знают, что эти данные есть. И активно их используют. Но по закону — не используют. Потому что «использование» требует признания их существования. А признавать невыгодно.

Право знать — право, которое не работает

Даже в тех случаях, когда закон формально применим — например, при персональном ценообразовании на основе идентифицирующих данных — механизмы защиты оказываются слабыми.

Право знать, какие данные о вас собраны, упирается в коммерческую тайну. Алгоритм — это интеллектуальная собственность компании. Раскрывать его внутренности никто не обязан. Вам скажут: «Мы используем ваши данные для персонализации цен». Но не скажут — как именно. Какие переменные. С какими весами.

Право на исправление неверных данных сталкивается с проблемой субъективности. Цена — это не факт. Это оценка. Оценка вашей готовности платить. Можно ли доказать, что она неверна? Что вы на самом деле готовы заплатить не тысячу, а пятьсот? Доказать невозможно. Потому что готовность платить — не свойство вещи. Это свойство момента. Вы сами не знаете, сколько отдали бы в состоянии усталости, спешки, раздражения. А алгоритм — знает. Или делает вид, что знает.

Право на возражение против автоматизированной обработки — тоже палка о двух концах. Компания всегда может заявить, что ценообразование — это её законное право на ведение бизнеса, защищённое хартией Европейского союза. И суды, как показывает практика, часто соглашаются с этим аргументом.

Что в итоге

Авторы исследования не призывают запрещать алгоритмическое ценообразование. Это было бы наивно и экономически неэффективно. Персонализированные цены могут приносить пользу — например, предлагать скидки тем, кто действительно не может заплатить больше.

Но они призывают к прозрачности. К созданию механизмов, которые позволили бы человеку узнать, по какому принципу ему назначили цену. К разработке концепции «групповой приватности» — защиты не только отдельных людей, но и групп, объединённых общими признаками.

Потому что сегодня проблема не в том, что богатые платят больше. Проблема в том, что никто не знает, кто платит сколько и почему. Алгоритм работает в темноте. И в этой темноте теряется не только справедливость, но и само представление о том, что такое «честная цена».

Вы думаете, что заплатили рыночную стоимость. А может быть, заплатили в два раза больше — просто потому, что заходили на сайт с айфона с разряженной батареей во вторник вечером после тяжёлого рабочего дня.

И никогда об этом не узнаете.