Социальные сети избавят от оскорблений и троллинга

В День народного единства "ВКонтакте" провела масштабный эксперимент - ровно на сутки в соцсети появилась функция, которая фильтрует оскорбления в комментариях и рекомендует пользователю отказаться от написания такой публикации. Оба инструмента работают на основе специально обученной нейросети, распознающей оскорбления.

Искусственный интеллект удалял комментарии, в которых содержались угрозы, - например, пожелания смерти или обещания причинить вред здоровью. При этом администраторы сообществ могли видеть все комментарии, которые отсеял фильтр и восстановить их или отправить в черный список.

Также алгоритм определял, есть ли в комментарии признак оскорбления и предлагал автору отказаться от его написания. Как сообщила пресс-служба социальной сети, в результате подобного эксперимента в прошлом году число оскорблений удалось сократить на 36%. При этом "ВКонтакте" не уточнили, планируется ли введение такой модерации на постоянной основе.

"Борьба с оскорблениями и языком вражды со стороны соцсети ВКонтакте - это отличный шаг, - говорит директор Ассоциации профессиональных пользователей соцсетей и мессенджеров Владимир Зыков. - Злые или оскорбительные комментарии заставляют людей меньше высказывать свое мнение, меньше писать постов, ведь боязнь получить оскорбление очень высокая".

По мнению эксперта, самой "злой" социальной сетью является YouTube. "Там такие инструменты были бы более востребованными, но американская корпорация не уважает своих пользователей, не заботится об их психологическом состоянии, - считает Зыков. - состоянии. А российская соцсеть показывает пример ответственного поведения".

На постоянной основе подобная технология уже используется в Instagram. Социальная сеть распознает оскорбительный комментарий и пред тем, как пользователь его опубликует, предлагает от него отказаться. Руководитель Instagram Адам Моссери считает, что подобная функция побуждает людей отказаться от оскорблений и поделиться чем-то менее вредным.

Евгения Лампадова, основатель коммуникационного агентства "ЛАМПА" считает, что у такой модерации есть и обратная сторона медали. "Социальные сети и любые другие интернет-площадки в целом стали сегодня своего рода форточкой для слива народного негатива и раздражения, поэтому, отключи такую опцию везде, массово негатив может вылиться в офлайн, - уверена она. - Но с другой стороны, у нас настолько низкая культура сетевых коммуникаций, что это поле не мешало бы отрегулировать".

Дамир Фейзуллов, директор по digital & social media коммуникационного агентства PR Partner полагает, что буллинг в соцсетях является большой проблемой. "Не все морально готовы пропускать такую критику мимо себя, большинство пользователей принимают ее близко к сердцу и страдают, - говорит он. - Технология позволит сделать соцсети менее стрессовым местом для общения и, соответственно, может стать популярной, получить распространение во всех существующих соцсетях. По сути, у людей не отбирают свободу слова, у них есть шанс высказываться, а у аккаунтов - корректировать информационный фон, избегать тех, кто решил выпустить пар через негативные комментарии".

"Одноклассники" тоже работают над подобным решением. В настоящее время проводится конкурс, в котором участникам предстоит создать обученную модель для поиска комментариев, которые провоцируют агрессию или нетерпимость людей друг к другу. Он завершится 8 ноября.