14.10.2023 08:00
Поделиться

Что такое рекомендательные сервисы и как они манипулируют пользователями

С 1 октября в России начала действовать норма, обязывающая интернет-ресурсы информировать о работе рекомендательных сервисов, чтобы защитить пользователей от злоупотреблений со стороны платформ. Что же такое эти самые "рекомендации" и почему от них понадобилось защищать обычных людей?
Рекомендательные системы должны удерживать наше внимание максимально длительное время.
Рекомендательные системы должны удерживать наше внимание максимально длительное время. / GettyImages

Проще всего разобрать это на таком примере. Допустим, у вас есть подписка на онлайн-кинотеатр, вы платите 300-400 рублей в месяц. У этого кинотеатра есть каталог - список фильмов, который можно сортировать по добавлению новых, по тематике, по названию или как-то еще.

Минус заключается в том, что в большинстве случаев мы не знаем, что хотим посмотреть. Безусловно, у каждого есть в мозгу пометочки "обязательно надо посмотреть" около сотни различных фильмов или сериалов, которые мы ставили в моменте, когда что-то слышали про тот или иной из них от друзей или в рекламе. Но когда мы заходим в каталог, то все это куда-то пропадает и мы начинаем просто листать его. Заканчивается это, как правило, ничем - по причине, которую мудрые люди сформулировали так:

  • у намерения должна быть цель;
  • "что-нибудь" - это не цель;
  • намерение сделать "что-нибудь" - это бесцельное намерение;
  • бесцельное намерение ведет к бесполезным решениям: задачу "что-нибудь посмотреть" не решить, где-нибудь поискав.

Все осложняется тем, что желание что-нибудь посмотреть не означает желания что-нибудь посмотреть или вообще желания что-нибудь смотреть в принципе. Это всего лишь рекомендация нашей внутренней бессознательной рекомендательной системы, встроенной в каждого человека. В результате - ощутив сигнал потребности, бессознательное лезет в память и начинает подыскивать подходящее решение - то есть смотрит, какие действия в прошлый раз удовлетворяли потребность, максимально близкую по характеристикам к поступившему сигналу.

Решить эту задачу, приложив этот сложный процесс осознанно к каталогу фильмов, вызов практически неподъемный для абсолютного большинства из нас. Поэтому мы листаем и тыкаем на удачу в тот или иной фильм, большинство из которых нам не знакомы, да еще и обозначены жанром "комедия/драма", что в принципе может означать вообще что угодно.

Что дальше? Потратив так несколько вечеров, мы начинаем испытывать фрустрацию, раздражаемся и в большинстве случаев начнем пересматривать что-то из классики и в конечном счете отписываемся от онлайн-кинотеатра. Потому что "там ничего нет". Или, что еще хуже, для бизнеса этого кинотеатра - идем к другому кинотеатру, потому что у него каталог выглядит иначе и у нас возникает ощущение новизны.

Чтобы решить за нас проблему выбора и успокоить нашу внутреннюю рекомендательную систему (и чтобы мы продолжали платить за подписку!), и были придуманы рекомендательные системы на интернет-ресурсах и в приложениях. Они анализируют то, что мы смотрим, то, что мы не смотрим, что не досмотрели, а что пересматриваем по десять раз, и то, что всегда пролистываем. Разбирают это на составные части: жанр, формат, актеры, режиссер, язык фильма и многое другое. В результате формируется матрица наших предпочтений, которая затем накладывается на весь каталог, отсортировывая из него те фильмы, которые с ней совпадают. И разумеется, там оказываются и те фильмы, что нам нравятся, и те, о которых мы никогда не слышали, но которые, вероятно, нам понравятся. И работает это не только с кинотеатрами, но и с интернет-магазинами, соцсетями, да много где еще.

Все это осложняется двумя моментами. Во-первых, самые продвинутые системы хороши тем, что анализируют не только собственно предмет интереса, но и информацию о нас из других источников, например, то, что мы ищем в поисковиках, читаем в соцсетях или заказываем в интернет-магазинах. Классический случай, когда рекомендательная система поняла, что женщина беременна по тому, как изменились ее покупки в интернет-магазинах. Ирония в том, что сама женщина еще не знала об этом. И это вроде бы сильная сторона.

Слабая сторона в том, что поскольку алгоритм анализирует слишком большое число переменных фактически в реальном времени, мы не можем его проверить, чтобы убедиться, что он действительно пришел к этим выводам и не пытается нам что-то подсунуть, манипулируя нашими слабостями.

Третий ракурс в том, что в случае с онлайн-кинотеатром мы в общем-то и были бы рады, чтобы он нами манипулировал, потому что мы хотим развлечься, отключиться, перевести внимание на что-то другое. И мы хотим, чтобы он нам дал такую возможность.

Так чего же боятся политики по всему миру и во имя чего принимают специальные законы о регулировании рекомендательных сервисов? Того, что это по сути своей "черный ящик", который невозможно проконтролировать. Того, что мы вроде бы исходим из того, что они желают нам добра (ну в худшем случае продадут нам что-то ненужное), но ни в коем случае не желают нам зла. Но где гарантия, что магазин, не желая терять клиента, который садится на диету, не начнет бомбардировать его спецпредложениями и постоянно предлагать различные guilty pleasures? Где гарантия, что социальная сеть, стремясь добиться политических изменений, не начнет подсовывать нам новости и посты с определенными акцентами, формируя нам специфический информационный пузырь и тем самым создавая у нас не всегда корректное представление о мире.

Продвинутые системы анализируют не только предмет интереса, но и сведения о нас из других источников. Фото: скриншот с сайта одной из торговых площадок

Основное требование специального закона, вступившего в силу в России с 1 октября, - это прозрачность рекомендательных систем, отмечает его автор, замглавы Комитета Госдумы по информполитике Антон Горелкин.

"Владельцы сайтов и приложений, использующих механизм рекомендаций, теперь должны объяснять пользователю, по каким принципам он работает, какие данные собирает, как их обрабатывает. Все это должно быть отражено в правилах, написанных понятным русским языком (или в виде инфографики, это также допустимо)", - говорит он.

Главная проблема рекомендательных систем в том, что они обрабатывают огромный объем информации, и мы фактически должны поверить, что они желают нам добра

По словам Горелкина, крупнейшие российские цифровые платформы выполнили новые требования законодательства: разместили на своих сайтах уведомления об использовании рекомендательных технологий, правила их применения и адрес электронной почты, по которому пользователи смогут обратиться, если у них возникнут вопросы о работе этих сервисов. В числе этих сервисов "Яндекс", Ozon, "Авито", ivi, Start и целый ряд других.

"Отмечу, что в некоторых случаях правила сформулированы довольно сложным языком с изобилием технических терминов. На мой взгляд, нужно стремиться составлять этот текст максимально доходчиво, ведь главная цель закона о рекомендательных сервисах - сделать их прозрачными, понятными для людей", - говорит Горелкин.

Он полагает, что Роскомнадзор, как регулятор, проанализирует эту практику и даст участникам рынка нужные рекомендации.