Ученые Высшей школы экономики назвали темы, вызывающие самые токсичные онлайн-комментарии

Автоматически выявлять токсичные комментарии, написанные на русском языке, теперь может специальный алгоритм, который создали исследователи Высшей школы бизнеса НИУ ВШЭ.

Как отмечают авторы исследования, токсичный контент совсем не безобиден. Неприятные высказывания под постами в соцсетях могут привести не только к негативным последствиям для психического здоровья, но и к насилию в реальном мире. Под токсичностью в интернете понимают грубый, неуважительный или необоснованный комментарий.

Ученые также проанализировали, какие темы вызывают наиболее острые комментарии. Для этого была создана модель машинного обучения, которая способна автоматически определять токсичные комментарии на русском языке, а также разработана методология для категоризации постов по разным темам. В итоге была создана модель ToxicRuBERT-TPikabu, которая может автоматически определять токсичные комментарии, написанные на русском языке. Соавтор исследования, аспирант департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Сергей Сметанин отметил, что больше всего токсичных комментариев было под постами о политике, безопасности и по темам социально-экономического развития.

Сергей Сметанин также пояснил, что следующие исследования могут быть связаны с изучением особенностей распространения токсичного контента. Ведь неуважительный стиль может быть заразным: грубость к собеседнику со стороны одного пользователя приводит к тому, что и другие пользователи начинают отвечать также грубо и неуважительно.