Дипфейки - это поддельные аудио-, видео- и графические материалы, созданные с помощью искусственного интеллекта. Они используют технологии глубокого обучения (GAN) и автокодировщиков для имитации реальных людей. Процесс включает генерацию поддельных данных и их оценку на правдоподобность. Автокодировщики выделяют ключевые характеристики изображения, такие как черты лица, что обеспечивает высокую точность подделок. Злоумышленники используют дипфейки для замены лиц в реальном времени, изменения голоса и кибератак. В даркнете услуги по созданию подделок стоят от 50 до 30 долларов США.
По словам директора центра исследований и анализа угроз Игоря Кузнецова, в даркнете можно встретить и более сложные инструменты - вредоносные большие языковые модели.
"В таких условиях экспертам по кибербезопасности нужно прикладывать серьезные усилия, чтобы противостоять злоумышленникам. Как ни парадоксально, но одно из возможных направлений для развития - также использовать ИИ-решения для повышения продуктивности ИБ-специалистов и эффективности защитных решений", - подчеркнул Игорь Кузнецов.
Специалисты рекомендуют проверять подлинность источника, анализировать аккаунты, оценивать качество контента, анализировать лексику и обращаться к проверенным источникам.