Разработан алгоритм для распознавания сообщений троллей и ботов

Американские ученые разработали алгоритм, распознающий сообщения интернет-троллей и ботов. Система искусственного интеллекта (ИИ) может определять особенности контент-содержания, характерные для таких сообщений.

"Контентно-ориентированные функции системы", пишут авторы в Science Advances, способны работать без вмешательства человека, однако меняющиеся тактика и стратегии троллей требуют, чтобы ИИ постоянно обучался.

DigitalКомпания Google обезопасила сервис видеоконференций Meet от троллей

Команда Мейсама Ализаде из Принстонского университета (США) отмечает, что их исследование было основано на конкретном, особенно распространенном типе поста в социальных сетях. В общей сложности они проанализировали 7,2 млн сообщений - как троллей, так и обычных пользователей.

После обучения системы по множеству данных ИИ научился определять тексты троллей: алгоритм учитывает объемы постов, их содержание и ключевые слова.

Тесты показали, что ИИ может не только находить посты троллей, но и вычислять их в других социальных сетях.

По словам ученых, легче всего обнаружить венесуэльских троллей - сложнее китайских и русских.

Алгоритмы поиска на основе контента, говорят авторы работы, безусловно, дают шанс противодействовать потоку фейковых сообщений на разных платформах. "Алгоритм можно использовать, чтобы оценить в реальном времени, сколько троллей на платформе и о чем они говорят", - говорит соавтор исследования Джейкоб Шапиро.

При этом разработчики системы признают, что "выявление троллей не идеальное, но оно может заставить их действовать более креативно или даже вовсе прекратить свою кампанию".