Эксперты обратили внимание на дефицит инструментов, выявляющих дипфейки

Проблема дипфейков - это проблема поиска баланса между комфортом использования сервисов и защитой. В борьбе против злоупотреблений технологией дипфейка не стоит забывать и о легальных способах ее использования, которые значительно повышают эффективность самых разных отраслей - об этом говорили эксперты на Уральском форуме "Кибербезопасность в финансах".

Дипфейк сегодня - это инструмент социальной инженерии, используемый злоумышленниками, обеспечивающий высокую достоверность малыми средствами в кратчайшие сроки, обозначила суть проблемы Анна Кулашова из "Лаборатории Касперского". Она привела пример, как на одной из сессий форума нейросеть на базе одной фотографии и 15-секундной голосовой записи создала вполне убедительный аватар эксперта в кибербезопасности, который рассказывал о том, что лучшим средством против киберпреступлений являются натальные карты.

Проблемой является и несоразмерность инвестиций в дипфейки и в киберзащиту, отметил Дмитрий Марков, генеральный директор VisionLabs. "Сегодня мы видим десятки миллиардов долларов инвестиций в дипфейки и на порядки меньшие инвестиции в киберзащиту. Как следствие - в Сети на сегодняшний день порядка тысячи инструментов, которые можно бесплатно установить и сделать дипфейки. И каждый год качество их работы повышается", - отметил эксперт.

Марков обозначил три потенциальные угрозы, где дипфейки могут сыграть решающую роль: дистанционное банковское обслуживание по видеосвязи, фальсификация цифровых доказательств в судах и использование дипфейков в избирательных кампаниях, например генерация материалов о многочисленных митингах в поддержку того или иного кандидата.

На фоне растущей угрозы атак с использованием дипфейков кажется странным незначительное число решений, направленных на детектирование фальшивых изображений, отметил гендиректор Центра биометрических технологий Владислав Поволоцкий. С этим согласен Дмитрий Марков, который добавил, что проблема состоит в том, что невозможно сегодня сформировать некое решение, которое гарантированно будет противодействовать дипфейкам. "Генеративные нейросети развиваются не поступательно, а прыжками. Появление Nano Banana или новой Sora обеспечивает резкий скачок в качестве генерируемых видео, и ранее существовавшие инструменты оказываются беспомощны против более высококачественных генераций - требуется время на адаптацию", - пояснил Марков.

Вместе с тем эксперты согласны с тем, что необходимы сервисы, которые позволили бы пользователям в оперативном режиме проводить проверку аудио- и видеоматериалов на предмет их подлинности.

Государства в свою очередь сегодня рассматривают вопрос ответственности компаний, выпускающих инструменты для генерации, за использование таких сервисов в криминальных целях. Это напомнил сенатор Артем Шейкин. Он отметил, что сегодня рассматриваются подходы с маркировкой контента и со штрафами для компаний. В качестве примера Шейкин привел Испанию, где обсуждаются штрафы до 35 миллионов евро либо 7% от годового оборота за немаркированный контент.

"Но окончательное решение, конечно же, состоит в комплексе мер. Это и уголовная ответственность, и технологический стандарт, и, что важнее всего, повышение цифровой грамотности населения. Я слышу об этом на каждой площадке. Человеческий фактор, к сожалению, пока остается ключевым звеном в цепи безопасности", - отметил Шейкин. С этим согласился Поволоцкий, сказавший, что не существует такого решения, которое помешает человеку, который вознамерился совершить транзакцию, ее совершить. И здесь крайне важна ответственность самого пользователя.

В ситуации с финансами целесообразно применять риск-ориентированный подход, полагает Марков. Эксперт привел пример с проходом "по лицу" - если речь идет о транзакции на сумму 60 рублей, то нет смысла формировать аналитику в реальном времени. Другой вопрос, когда речь идет о доступе к банковским продуктам - там необходимо формировать защищенный периметр.

Вместе с тем, напомнил глава Центра биометрических технологий, важно в ходе борьбы с криминальным использованием генеративных функций нейросетей не упустить из виду и легальные сценарии, такие как использование образов в рекламе с согласия актеров, "оживление" исторических персон, персонализация обучения: одна запись спикера + дипфейк‑локализация на разные языки, а для лиц с афантазией (неспособностью представлять образы) - создание анимированных роликов с собственным участием.