Новости

24.10.2021 09:00
Рубрика: Общество

Дипфейк откроет новые просторы для покорения псевдореальности

Представьте себе: вечер пятницы, домашний уют, монотонно говорящий прямоугольник телевизора. Ничего не предвещает беды, и вдруг на экране возникает Чаплин, играющий в цветном кино, неуклюже спотыкающийся на улицах современного мегаполиса и удивленно озирающийся по сторонам: "Как я сюда попал?!"
Марк Цукерберг - один из лидеров в создании цифровых миров. Но что, если дипфейк ударит по нему самому? Фото: GettyImages Марк Цукерберг - один из лидеров в создании цифровых миров. Но что, если дипфейк ударит по нему самому? Фото: GettyImages
Марк Цукерберг - один из лидеров в создании цифровых миров. Но что, если дипфейк ударит по нему самому? Фото: GettyImages

Вы не верите своим глазам и думаете о том, какого мастерства достигли гримеры, а потом завороженно наблюдаете за приключениями бродяги Чарли, даже не догадываясь, что перед вами - творение нейросети.

Если классическая буффонада прошлого века не приходится по вкусу, то есть более близкий пример: Том Круз играет на гитаре для миллионной аудитории и активно ведет аккаунт в социальной сети TikTok, а в это время канадский певец Джастин Бибер записывает видео, где ревностно советует актеру подучить азы перебора струн. И кажется, что ничего необычного здесь нет. Вот только "Том Круз" из TikTok ненастоящий. А Джастин Бибер, ехидно прокомментировав игру фальшивого актера, сам стал объектом насмешек. Резонный вопрос: если Том Круз выше ненастоящий, тогда какой? Он, что называется, дипфейкнутый - иными словами, созданный искусственным интеллектом. Важно заметить: человек, который представляется всемирно известным актером, вполне реальный.

Чтобы не запутаться окончательно, разберем пошагово процесс создания дипфейк-видео, а в качестве подопытного возьмем того же "Тома Круза". Какой-то парень придумывает идею для нового ролика, создает контекст ситуации, в которой мог бы оказаться актер. Отсняв материал, блогер садится за компьютер, запускает самую богатую на портреты людей библиотеку DeepFaceLab, и тут начинается технологическое чудо: так называемая генеративно-состязательная сеть анализирует колоссальное количество изображений требуемого лица и постепенно заменяет оригинального героя видео новым персонажем. Причем программный алгоритм формально пытается обмануть самого себя: одна его часть создает картинку, а другая - постоянно недовольна и указывает на недостатки, которые нужно исправить. Этот процесс напоминает кропотливое сотрудничество вечно критикующего редактора и несогласного писателя: второй норовит выдать трехстраничный талмуд, а первый зачеркивает целые пассажи и затем ждет исправленного варианта. Цель простая - принести идеальный текст и наконец издать книгу. В нашем случае - обмануть вторую часть алгоритма, когда та не сможет отличить искусственно сгенерированное лицо от настоящего.

Обратная сторона дипфейк-медали: кто из них настоящий Том Круз, вроде бы ясно, но... Фото: instagram.com / mary_grace_1st_of_wonderland

Но что на самом деле представляет собой технология deepfake? На первый взгляд все до смешного безобидно: "Том Круз" удивляет два миллиона подписчиков различными забавами, "Джим Керри" пробует себя в "Сиянии", а "Брюс Уиллис" рекламирует преимущества "МегаФона". Однако дипфейк-медаль стремительно открывает другую сторону, и цифровое общество видит вполне здорового "Олега Тинькова", призывающего открыть инвестиционный счет, за что пользователи получат определенные бонусы. Видео оказалось мошенническим, а личные данные доверчивых людей попали в руки злоумышленников. Дипфейк буквально стирает грань между реальностью и цифровым миром: эта технология интегрируется в повседневную жизнь, усиливая эффект так называемого феномена постправды - сегодняшней эпохи, когда фактология и достоверность отходят на второй план, уступая место эмоциональному заискиванию перед пользователями. Теперь важно не преподнести проверенную информацию - важно апеллировать к рефлексам людей, к их личным убеждениям и взглядам, и тогда объективное восприятие теряет свое значение и проигрывает манипуляциям, сознательному обману. Иными словами, если раньше цифровой абрис четко очерчивался, то сегодня мир все сильнее спаивается с интернет-пространством - и, как следствие, отличить истину от лжи становится все сложнее. Примечательнее всего то, что в эпоху постправды активно строится псевдореальность, в конструировании которой решающую роль играет дипфейк.

Последствия цифровизации: факты - ничто, эмоции - все

В осмысливании полученной информации ratio (от лат. "разум") больше не учитывается - первую скрипку теперь играет emotio (от лат. "потрясаю, волную"). Здесь как нельзя лучше подойдут слова немецкого философа Ницше: "Если ты долго смотришь в бездну, то бездна начинает всматриваться в тебя". Только нужно заменить "бездну" на "псевдореальность", и тогда получается вполне цельная картина: создавая цифровое пространство, люди, сами того не подозревая, позволили ему управлять их мышлением. Заходя в диджитал, пользователь на подсознательном уровне понимает опасность быть обманутым или видит возможность обмануть - от этого азарт пребывания в интернет-мире лишь увеличивается, а вседозволенность и безнаказанность подпитывают самое низменное, что может быть в человеке.

Конечно, не все так плохо: дипфейк как явление будущего открывает новые просторы для покорения. И в этом смысле потенциал технологии безграничен: на уроках в школах станет гораздо интереснее, потому что вести их будут исторические личности; киноиндустрия сможет "воскрешать" звездные иконы прошлого или привлекать актеров без их физического участия, отсюда - экономия финансов и увеличенная оперативность съемок.

Но нерешенной остается проблема правового рельефа нынешнего дипфейк-ландшафта, и пока вводятся лишь запретные меры.Так, в Колорадо действует уголовная ответственность за применение дипфейка в политической рекламе, в то время как в Китае в каждое видео подобного рода пользователь обязан вставлять соответствующий дисклеймер. Тем не менее правовое регулирование остального дипфейк-контента остается размытым. Том Круз, безусловно, может подать в суд на своего двойника, обосновывая это оскорблением собственного достоинства, но в таком случае он вряд ли выиграет дело: ведь с формальной точки зрения используется не изображение актера - дипфейк воссоздает его и получает уникальный продукт, который так или иначе отличается от оригинала.

Да и в принципе: нужно ли разрабатывать эти правовые лекала так тщательно, если, конечно, речь идет о контенте, цель которого - развлекать, пародировать и просто вызывать смех? Думаю, что Том Круз ответил для себя на этот вопрос лаконичным "нет", а потом подписался на свою копию - просто чтобы иногда был повод лишний раз улыбнуться.

В конце концов история достижений человечества неоднозначна: электричество открыло новую эпоху и при этом подарило миру своеобразный вид казни; атомная энергия обеспечила огромное количество людей постоянными теплом и светом, а вдобавок - смертоносным оружием. По этой причине дипфейк - это современные реалии, не принимать которые бессмысленно. Остается надеяться, что будет выбрана дорога, которая учтет ошибки прошлого, и дипфейк в руках человека будет рождать больше творений наподобие Илона Маска, неожиданно ставшего солистом группы "Земляне", и ожившего Сальвадора Дали, рассказывающего посетителям посвященной ему выставки о своей жизни и творчестве. Такая реальность мне точно по душе. А вам?

Общество СМИ и соцсети