Как нейросеть ловит фейки

Система искусственного интеллекта по отлову фейков стала одним из победителей масштабного форума ВУЗПРОМЭКСПО. Понятно, почему авторитетное жюри из многих десятков сильных проектов отдало предпочтение именно работе студентов Пятигорского госуниверситета. При прочих равных она затрагивает одну из самых острых современных проблем. Ведь лживое слово превращается в опаснейшее оружие, которое влияет на судьбы и конкретных людей, и экономику, и политику. Число примеров растет как снежный ком. Найти противоядие сегодня стремятся во всем мире. В основе разработок системы искусственного интеллекта (ИИ). Свой вариант предложили в Пятигорском госуниверситете.

- Прежде чем нейросеть выпустить в люди на вылавливание фейков, ее надо обучить их распознавать, - говорит руководитель проекта Павел Посохов. - Принцип простой. Как ребенка учат, что такое кошка. Ее много раз ему показывают в разных ситуациях, и постепенно он учится понимать, что это кошка. Точно так же мы учим нейросеть распознавать слова и их многочисленные сочетания. Скажем, чайник. Он может быть горячий или холодный, железный или фарфоровый, маленький или большой и т.д. Каждому значению присваивается цифра.

Затем ему дают прочитать десятки, а то и сотни тысяч текстов, где в самых разных вариантах могут встретиться словесные сочетания, которые в него заложили. И наконец, ИИ переводят в "высшую школу", где учат отличать правду от лжи. Таким детектором является сложная математическая программа, разработанная авторами. Она анализирует тексты по многим признакам: смысл, лексика, логика, стилистика и т.д.

Созданную систему ИИ пятигорские студенты назвали Берт, как героя одного из популярных сериалов. В его мозге 340 миллионов самых разных параметров - лексикон, логические выводы и т.д. Вот такой невод для ловли фейков. В тестах он продемонстрировал высочайший улов. Скажем, в испытаниях, которые проводились по заданиям Сбербанка, эффективность оказалась около 96 процентов.

Понятно, что такая система крайне необходима финансовым организациям, их бизнес во многом зависит от того, что происходит в мире, от способности оперативно реагировать на меняющуюся обстановку, не клюнуть на лживую информацию. И конечно, такой ИИ требуется информационным агентствам, которые проверяют свои источники, а также крупному и среднему бизнесу, который может страховать себя таким образом от экономических проблем, связанных с дезинформацией.

В тестах Сбербанка эффективность нейросети около 96 процентов 

Еще одно очевидное заинтересованное лицо - силовые структуры, которые борются с экстремизмом. Словом, Берта ждут многие. И сейчас авторы готовятся его выпустить в массы. Авторы прорывной разработки - однокурсники. Помимо Павла Посохова, это Степан Скрыльников, Валерий Ефанов, Станислав Крапивин, Юрий Курочкин. А помогала в мозговом штурме кандидат экономических наук доцент Ольга Тимченко.

Фейки-2020

"Топовые" фейки прошедшего года касались одной темы - пандемии. Скажем, известный врач Леонид Рошаль якобы заявил, что чеснок "самое надежное средство от коронавируса". Рошаль это опроверг, но фейк разошелся очень широко. Еще одна "сенсация", что якобы ночью над одним из населенных пунктов в России с вертолетов распылят дезинфицирующее вещество. Этот фейк опроверг оперативный штаб по контролю и мониторингу ситуации с коронавирусом. Среди топовых фейков информация, что коронавирус - это изобретение Билла Гейтса, который через вакцину хочет чипировать жителей планеты. В соцсетях появилось видео, где мужчина демонстрирует шприцы с "чипом" внутри.