Этим особенно грешит TikTok: там, к примеру, возникло множество фейковых видео с участием таких звезд, как Рианна и Тейлор Свифт. Все предельно просто: мошенники берут реальные кадры подкастов, интервью, хроникальных съемок, и на эти кадры накладывается закадровый, изготовленный ИИ голос, в точности воспроизводящий тембр и интонации певиц. В результате знаменитости, которым толпа безусловно доверяет, как бы приглашают всех желающих на некие сайты, где доверчивые расстанутся со своими сбережениями и поделятся личными данными с жуликами.
Шторм дипфейковых атак обрушился на голливудских звезд. Вирусными стали видео, где сгенерированные Том Хэнкс и Брэд Питт призывают своих фанов вкладываться в "уникальные инвестиционные платформы". Потери доверившихся любимым актерам жертв уже составляют сотни миллионов долларов.
Становится популярным прием использования лиц и голосов знаменитостей для рекламы неких люксовых брендов. И уже возникла встречная волна протестов: такие звезды, как Скарлет Йоханссон, возглавили кампанию против незаконного использования их цифровых двойников. Среди селебрити, чьи лица чаще всего крадут для фейковой рекламы, - Сидни Суини, Дженна Ортега, Зендея, Сабрина Карпентер - их двойники без ведома оригиналов рекламируют косметику, образцы модной одежды и криптокошельки.
В России дипфейки пока занимают более скромную нишу. Самым скандальным случаем остается ролик, в котором некий блогер использовал лицо Киану Ривза, "приклеив" его к своей фигуре и заставив это сгенерированное существо проверять, выключен ли утюг. Этот ролик, в свою очередь, использовала некая компания в рекламных целях, возникло судебное разбирательство, и это был первый в России случай, когда суд признал за изготовителем ролика авторство, наказав компанию за нарушение авторских прав.
Впрочем, уже очень многим знакомы фейковые звонки по телефону или сообщения в соцсетях, где легко узнаваемый голос вашего шефа требует срочно одолжить ему деньги.
По прогнозам аналитиков, до 90% контента в Сети в ближайшие годы может стать синтетическим. Уже сегодня интернет захлестнули сенсационные ролики о невиданных наводнениях, пожарах и катастрофах, очень похожих на настоящие, и никогда теперь не знаешь, чему можно верить, а чему - нет.
Голливудские профсоюзы активно борются за право каждого артиста на "цифровую собственность". В мире разрабатываются законы, призванные защитить потенциальных жертв мошенников от дипфейков. Так, в США принят закон, обязывающий соцсети и платформы удалять дипфейки в течение двух суток после жалобы пострадавшего. Для создателей дипфейков предусмотрено наказание до 2 лет тюрьмы, а жертвы вправе получить солидную компенсацию. Есть и законопроект о введении права на цифровое отображение личности и запрете на создание ИИ-копий актеров и музыкантов без их согласия. В Калифорнии уже существует закон о запрете на цифровые копии умерших актеров без согласия родственников.
В Европе введена обязательная и хорошо видимая маркировка для любого контента, сгенерированного ИИ.
Тем временем успешные попытки вернуть на экран образы ушедших звезд предпринимаются уже лет двадцать официально и с согласия родственников. Так, Одри Хэпберн появилась в ролике с рекламой шоколада Dove, а Марлен Дитрих - в рекламе духов Dior J'adore.