Разработан алгоритм для распознавания сообщений троллей и ботов

Американские ученые разработали алгоритм, распознающий сообщения интернет-троллей и ботов. Система искусственного интеллекта (ИИ) может определять особенности контент-содержания, характерные для таких сообщений.

"Контентно-ориентированные функции системы", пишут авторы в Science Advances, способны работать без вмешательства человека, однако меняющиеся тактика и стратегии троллей требуют, чтобы ИИ постоянно обучался.

Команда Мейсама Ализаде из Принстонского университета (США) отмечает, что их исследование было основано на конкретном, особенно распространенном типе поста в социальных сетях. В общей сложности они проанализировали 7,2 млн сообщений - как троллей, так и обычных пользователей.

После обучения системы по множеству данных ИИ научился определять тексты троллей: алгоритм учитывает объемы постов, их содержание и ключевые слова.

Тесты показали, что ИИ может не только находить посты троллей, но и вычислять их в других социальных сетях.

По словам ученых, легче всего обнаружить венесуэльских троллей - сложнее китайских и русских.

Алгоритмы поиска на основе контента, говорят авторы работы, безусловно, дают шанс противодействовать потоку фейковых сообщений на разных платформах. "Алгоритм можно использовать, чтобы оценить в реальном времени, сколько троллей на платформе и о чем они говорят", - говорит соавтор исследования Джейкоб Шапиро.

При этом разработчики системы признают, что "выявление троллей не идеальное, но оно может заставить их действовать более креативно или даже вовсе прекратить свою кампанию".