15 признаков дипфейка: как отличить поддельное видео или голос

Дипфейки стремительно эволюционируют и сейчас создаются в основном при помощи генеративно-состязательных сетей (GAN). Они могут сделать реалистичную копию лица и голоса человека всего по нескольким секундам аудиозаписи или паре фотографий. Мошенники активно используют эту технологию, чтобы воровать деньги, нечистые на руку политтехнологи таким образом пытаются манипулировать общественным мнением, а некоторые "шутники" генерируют дипфейки для кибербуллинга, шантажа или просто хайпа.

В этой статье вы узнаете о 15 визуальных, звуковых и поведенческих признаках, которые помогут отличить подделку от оригинала. Разберем, на что обращать внимание в первую очередь и что делать, если вы уже стали жертвой мошенников.

Распознавание дипфейков требует внимательности. Визуальные, звуковые и поведенческие признаки в совокупности помогут выявить подделку. Фото: iStock

Содержание:

1. Исторический экскурс
2. Как создаются видеодипфейки
3. Как создаются аудиодипфейки
4. 15 признаков дипфейка на видео и аудио
5. Как отличить дипфейк от подлинного контента
6. Как защититься от дипфейков
7. Часто задаваемые вопросы
8. Заключение

Исторический экскурс

Считается, что эра дипфейков началась в 2017 году, когда пользователь с ником DeepFakes выложил на одном из форумов несколько видео порнографического содержания, в которых лица знаменитостей были "приклеены" к телам актеров.

Впрочем, технологии, которые можно считать прародителями дипфейков, появились гораздо раньше. Еще в конце ХХ века в киноиндустрии использовали цифровые клоны актеров, созданные с помощью донейросетевой технологии CGI (computer-generated imagery). Это позволяло воссоздавать внешность и движения с помощью компьютерной графики. Именно таким способом был воссоздан образ Брэндона Ли в фильме "Ворон" 1993 года (актер трагически погиб на съемках, и создатели картины использовали CGI-анимацию, чтобы доснять оставшиеся сцены).

Если углубиться в историю, то прообразы дипфейков бывали и раньше. Важные политические документы и произведения искусства подделывали всегда, начиная с эпохи Древнего мира. Например, в середине XIX века в США уже применяли фотомонтаж в политических целях. Широко известная фотография президента США Авраама Линкольна, растиражированная в 1865 году, на которой он запечатлен возле стола с документами, глобусом и американским флагом, - не что иное, как фотомонтаж. Создатель фейка (считается, что это был художник Томас Хикс) "приклеил" голову Линкольна к гравюре, на которой был изображен вице-президент США Джон Кэлхун. Более того, он отредактировал и документы, лежащие на столе, чтобы они соответствовали актуальной политической повестке. Подделку обнаружили лишь спустя полвека, когда фотокорреспондент Стефан Лорант заметил, что родинка на лице Линкольна расположена не на той стороне.

ИИ не очень хорошо справляется с генерацией взгляда. В дипфейках моргание может быть слишком редким, слишком частым или "механическим". Фото: iStock

Как создаются видеодипфейки

Дипфейковый видеоконтент чаще всего создается с помощью генеративно-состязательных нейросетей (GAN). Генератор создает поддельные изображения или видео на основе имеющихся данных, а дискриминатор пытается определить их подлинность. В процессе генерируется все более совершенный и реалистичный дипфейк, который становится неотличимым от реального видео по версии нейросети.

Обратите внимание на детали. Насторожить могут неестественная мимика, рассинхронизация движений губ и речи на видео, дефекты звука, размытость мелких деталей. Фото: iStock

Процесс создания видеодипфейка обычно выглядит следующим образом.

• Сбор данных для обучения. Чем больше изображений и видео целевого человека с разными выражениями лица и под разными углами доступно, т.е. чем больше и разнообразнее исходный материал, тем реалистичнее будет результат.
• Обучение модели. Нейросеть анализирует собранные данные, запоминает уникальные черты лица, мимику и особенности поведения человека.
• Обработка исходного видео. Исходное видео, в которое нужно вставить лицо, разбивается на отдельные кадры, а специальные алгоритмы создают маску для последующей замены.
• Генерация и наложение лица. На каждом кадре, используя обученную модель и специальные инструменты, генерируется нужное лицо в правильном положении. Затем оно аккуратно накладывается на маску в исходном кадре, после чего кадры собираются обратно в видео.
• Финальная доработка. Полученный результат тщательно проверяется. Для реалистичности прибегают к сглаживанию переходов, цветокоррекции и другим приемам.

Как создаются аудиодипфейки

Технология создания голосовых дипфейков, или клонирования голоса, во многом схожа с технологией видеодипфейков. Для создания клона голоса необходим образец речи человека. Для получения качественного фейка обычно нужна запись чистой речи без фонового шума, длиной от 60 секунд до 3-5 минут. Система анализирует уникальные характеристики голоса: тон, тембр, высоту, акцент, интонации и манеру речи. На основе этих данных создается цифровая модель голоса, которая может генерировать новую речь с такими же характеристиками.

Далее алгоритм, используя созданную цифровую модель, генерирует аудиофайл, в котором нужный текст произносится голосом выбранного человека. Сам процесс занимает всего несколько секунд. Чем выше качество исходной записи, тем естественнее будет звучать фейк.

Подозрительны непривычный тон общения или использование лексики, нехарактерной для человека. Фото: iStock

15 признаков дипфейка на видео и аудио

Современные дипфейки сложно обнаружить по одному признаку. К тому же и подлинные записи бывают плохого качества. Однако сочетание сразу нескольких подозрительных элементов с высокой вероятностью указывает на подделку.

1. Неестественное моргание и взгляд

Живой человек моргает в среднем 10-20 раз в минуту. Дипфейк может либо не моргать вовсе, либо делать это слишком часто и механически. Взгляд часто кажется "стеклянным", зрачки двигаются неестественно или несинхронно.

2. Рассинхронизация губ и речи (липсинг)

Даже небольшое несоответствие между речью и движениями губ заметно. Микрозадержки между артикуляцией и звуком часто выдают дипфейк.

Визуальные, звуковые и поведенческие признаки в совокупности помогут выявить подделку. Фото: iStock

3. Размытые или "плавающие" границы лица

Если лицо наложено на другое тело, это особенно заметно по линии роста волос, возле ушей и шеи. В этих местах видно мерцание, размытие или неестественный переход цвета.

Иногда зрачки остаются неподвижными, двигаются неестественно или в них отсутствуют блики. Фото: iStock

4. Слишком гладкая, "пластиковая" кожа

В дипфейках кожа часто выглядит неестественно идеальной - без пор, морщин и других микротекстур, которые свойственны живому человеку. Лицо выглядит неестественно гладким, "ботоксным".

5. Странная мимика и "застывшее" лицо

Дипфейки плохо передают сложные эмоции. Улыбка кажется приклеенной, отсутствуют мелкие мимические морщинки у глаз и складки на лбу. Лицо часто выглядит неподвижно, даже когда меняется тема разговора.

Защитить свои фото и видео от создания дипфейков особенно трудно публичным людям. Фото: iStock

6. Анатомические ошибки

Нейросети иногда ошибаются при подсчете пальцев рук или ног, а также могут искажать черты лица при резких движениях. Например, при поворотах головы контуры лица часто "плывут".

Следите за цифровым следом, который оставляете на онлайн-ресурсах. Фото: iStock

7. Проблемы с освещением и тенями

Нейросети часто неверно генерируют светотени. Тени на лице могут падать в другую сторону, чем тени на фоне. Лицо освещено не так, как фон, а блики в глазах не соответствуют источнику света. Иногда блики на коже и вовсе отсутствуют.

Для открытых онлайн-мероприятий лучше выбирать платформы с контролем доступа, идентификацией участников, премодерацией входа и возможностью ограничить запись и скриншоты. Фото: iStock

8. Проблемы с волосами и аксессуарами

ИИ плохо моделирует биомеханику волос - они могут сливаться в единую массу или оставаться неподвижными при поворотах. Аксессуары (очки, серьги) могут "плыть" или менять форму при движении.

9. Искажения текста и мелких деталей

Надписи на одежде, логотипы или текст часто превращаются в нечитаемые символы. Зубы могут отображаться как сплошная белая линия.

10. Низкое качество изображения лица по сравнению с фоном

Лицо может выглядеть неестественно четким или, наоборот, более размытым и зернистым по сравнению с фоном.

Если ваше лицо использовали для создания подделки, сохраните доказательства, обратитесь к администрации платформы для удаления и в полицию. Фото: iStock

11. Статичный или размытый фон

В поддельных видео фон часто не взаимодействует с человеком. Он может быть излишне размытым или, наоборот, идеально статичным.

В поддельных видео фон может быть излишне размытым. Фото: iStock

12. Неестественные движения тела, непривычная манера общения

Голова, руки или пальцы в фейковых видео часто двигаются рывками, слишком плавно или не согласуются с позой и жестами человека. Непривычный тон общения или использование лексики, нехарактерной для человека, также являются признаками фейка.

13. Монотонная, роботизированная речь

В речи отсутствуют естественные перепады интонации, она звучит слишком ровно и механически. Это один из самых верных признаков фейка.

Оценивать нужно сразу все подозрительные признаки, а не только глаза: одного индикатора для определения подделки недостаточно. Фото: iStock

14. Отсутствие естественных пауз и звуков дыхания

Поддельный голос часто звучит как непрерывный поток, без микропауз на вдох, покашливаний или других шумов, которые сопровождают живую речь.

15. Отсутствие фонового шума или неестественная тишина

В подлинной записи всегда есть минимальный фоновый шум. В сгенерированном аудио или видео часто нет никаких посторонних звуков, что неестественно для реальной обстановки.

Алексей Горелкин, генеральный директор компании Phishman, специалист по информационной безопасности:

"Современные нейросети создают реалистичные видеоподделки, но "на глаз" распознать обман можно, например, вглядываясь в мелкие физические аномалии, для чего видео придется пересмотреть несколько раз. Более того, в ближайшем будущем дипфейки могут стать полностью не отличимыми от настоящих записей: графические модели развиваются стремительно. Однако пока стоит доверять своей интуиции как поводу для перепроверки: если мозг фиксирует странность и нереалистичность, очень вероятно, что так оно и есть".

Как отличить дипфейк от подлинного контента

Если вам позвонили по видеосвязи, то самая надежная проверка - попросить собеседника выполнить действие, которое сложно сгенерировать в реальном времени: повернуть голову в профиль или быстро провести рукой перед лицом. Также можно задать личный вопрос, ответ на который знаете только вы.

Насторожить могут неестественная мимика, рассинхронизация движений губ и речи на видео, дефекты звука, размытость мелких деталей. Фото: iStock

Существуют и специальные сервисы распознавания дипфейков. Для технической проверки также используются детекторы на основе ИИ. Они анализируют файлы и выдают оценку вероятности подделки.

Саркис Шмавонян, руководитель группы по работе с образовательными организациями "Киберпротект", эксперт по информационной безопасности:

"Кроме визуальной и аудиальной проверки существуют специализированные сервисы для анализа контента - они умеют проверять как загруженные файлы, так и в отдельных случаях работать в режиме реального времени во время звонка. Среди наиболее известных систем - Deepfake Detection и FakeCatcher, также существует целый ряд модулей антиспуфинга (комплекс мер и технологий, направленных на противодействие попыткам обмана систем путем подмены данных. - Прим. ред.), способных определить подделку в онлайн-режиме. При этом важно помнить о главном ограничении: ни один инструмент сегодня не дает стопроцентной гарантии, технологии подделки и технологии распознавания развиваются параллельно. В этой связи специализированный софт стоит воспринимать только как дополнительную страховку, а не замену здравому смыслу и привычке перепроверять информацию".

Всегда сохраняйте критическое мышление. Не переводите деньги и не делитесь конфиденциальной информацией без личной проверки по другому каналу связи. Фото: iStock

Дмитрий Крюков, руководитель ИИ-направления МТС Линк:

"Технически детекторы дипфейков - это ИИ-классификаторы. Нейросеть обучается на большом массиве данных, где есть и реальные видео, и подделки, и учится находить визуальные аномалии, незаметные человеку, но устойчивые для машинного анализа. Работают такие решения обычно в реальном времени - они находят в видеопотоке следы вмешательства ИИ в изображение лица. Система выдает уведомление пользователю, когда на стороне его собеседника замечена подозрительная активность - использование сгенерированного видео".

Как защититься от дипфейков

По данным МВД и Банка России, дипфейки становятся все более изощренным инструментом мошенничества. Злоумышленники взламывают аккаунты или используют публичные фото и видео из соцсетей для создания убедительных подделок. Схемы обмана варьируются от звонков от имени родственников с просьбой о срочной финансовой помощи до сложных атак на бизнес. Угроза дипфейков заключается не только в цифровом мошенничестве, но и в их использовании в информационной войне, когда поддельные видео применяют для продвижения определенных нарративов и дестабилизации социально-политической обстановки.

Обращайте внимание на непривычный тон общения или использование лексики, нехарактерной для человека. Фото: iStock

Виктор Бондаренко, генеральный директор ООО "БСС-Безопасность":

"Генеративный ИИ значительно расширил возможности социальной инженерии. Сегодня дипфейки используются для атак на контакт-центры, обхода биометрической идентификации, персонализированного фишинга (вид интернет-мошенничества, при котором злоумышленники обманом выманивают у людей конфиденциальные данные. - Прим. ред.), распространения дезинформации и компрометации деловой репутации. Главная опасность - не сами дипфейки, а их использование в привычных бизнес-процессах. Поэтому защищать необходимо не только данные, но и процедуры идентификации пользователей и подтверждения операций. Для бизнеса наиболее эффективен комплексный подход: многофакторная аутентификация, голосовая биометрия, обучение сотрудников методам противодействия социальной инженерии и четкие процедуры подтверждения критически важных операций".

Главная защита - это критическое мышление и соблюдение цифровой гигиены. Не доверяйте звонкам с незнакомых номеров! Прежде всего рекомендуем не поддаваться давлению (мошенники всегда напирают на срочность). Перезвоните тому, кто вам звонит. Используйте номер из телефонной книги, а не перезванивайте непосредственно звонящему, даже если он утверждает, что по его номеру не дозвониться (телефон украли/сломан/утерян).

Главное - не поддаваться панике, ведь мошенники часто требуют перевести деньги срочно, чтобы человек не успел опомниться. Фото: iStock

Самый действенный способ не попасться на удочку мошенника - договориться о кодовой фразе с родственниками: мошенник не сможет ее назвать. Также можно задавать уточняющие вопросы, которые запутают звонящего и ответы на которые трудно угадать.

Борис Герасин, заместитель председателя Совета Торгово-промышленной палаты РФ (ТПП РФ) по интеллектуальной собственности:

"Защитить свои фото и видео от создания дипфейков очень трудно, особенно людям публичным. Всем остальным советуем ограничить публикацию качественных видео и фото в соцсетях при помощи настроек приватности. Также следите за цифровым следом, которые оставляете на онлайн-ресурсах. Даже если владелец сайта не имел намерения использовать ваши данные, это могут сделать злоумышленники, если взломают сайт".

Для открытых онлайн-мероприятий (вебинаров, конференций) по возможности лучше выбирать платформы с контролем доступа, идентификацией участников, премодерацией входа и возможностью ограничить запись и скриншоты: именно их злоумышленники могут использовать для создания дипфейков.

Полностью предотвратить создание дипфейка невозможно. Если ваше лицо использовали для создания подделки, сохраните доказательства (сделайте скриншоты, скачайте видео, зафиксируйте ссылки), обратитесь к администрации платформы для удаления и в полицию. Если вы уже перевели деньги мошенникам, немедленно свяжитесь со своим банком и попросите заблокировать операцию. Точной статистики по ущербу от дипфейков в России нет: значительная часть таких случаев так и не доходит до заявления в полицию, что мешает оценить реальный масштаб проблемы.

Самый действенный способ не попасться на удочку мошенника - договориться о кодовой фразе с родственниками: мошенник не сможет ее назвать. Фото: iStock

Заключение

• Распознавание дипфейков требует внимательности. Визуальные, звуковые и поведенческие признаки в совокупности помогут выявить подделку.
• Всегда сохраняйте критическое мышление. Не переводите деньги и не делитесь конфиденциальной информацией без личной проверки по другому каналу связи.
• Не полагайтесь только на один признак - современные нейросети постоянно совершенствуются.

Точной статистики по ущербу от дипфейков в России нет: значительная часть таких случаев так и не доходит до заявления в полицию, что мешает оценить реальный масштаб проблемы. Фото: iStock