ИИ способен создать цифровой аватар человека, который может ввести в заблуждение и родственников, и банк

Обозреватель The Wall Street Journal Джоанна Стерн попыталась выяснить, насколько натуральным может получиться цифровой аватар человека, созданный на базе ИИ. Результат эксперимента оказался пугающим: ей удалось получить собственный цифровой клон, который смог ввести в заблуждение ее родственников и обмануть систему голосовой идентификации банка.

Для создания виртуального аватара Джоанна использовала инструмент Synthesia, который производит видеоаватары на основе видео- и аудиозаписей реальных людей. Исходным материалом для обучения алгоритма стали 30 минут видео и два часа аудиозаписей голоса Джоанны.

Стартап Synthesia берет $1000 в год за создание виртуального аватара плюс ежемесячная плата. Когда цифровой клон журналистки был готов, начались его испытания. Она сгенерировала с помощью ChatGPT текст для TikTok-ролика и загрузила его в Synthesia, после чего аватар создал видеоролик. У Джоанны сложилось впечатление, что она смотрит в зеркало и видит свое отражение.

Результат эксперимента оказался пугающим

Однако пока технология не идеальна. Если при воспроизведении коротких предложений аватар выглядит довольно убедительным, то при более длинных фразах становится ясно, что их произносит не человек. Несмотря на то что в TikTok далеко не все пользователи отличаются внимательностью, некоторые из них обратили внимание на то, что созданное с использованием виртуального аватара видео выглядит неестественно.

А в это время

Создать свою копию за $145

Китайская Tencent Cloud объявила о запуске цифровой платформы для создания людей - Deepfakes-as-a-Service (DFaaS). Она обещает за $145 создавать цифровые копии высокой четкости всех желающих, используя всего три минуты живого видео и 100 произнесенных фраз. Для создания дипфейка потребуется 24 часа.