Предполагается, что владельцы умных систем должны будут озаботиться тем, чтобы нейросеть, генерируя контент, обязательно бы ставила на нее свою метку. Что-то вроде "Сделано Роботом". И мы будем понимать: эта красавица - неживая, а этот текст составлен бездушным компьютером. А если нам вдруг позвонит очень большой начальник, или очень старый друг, или очень близкий родственник и попросит денег, у него на лбу (у каждого) должно быть написано, что они - дипфейк. Формат, содержание и порядок размещения маркировки, согласно проекту, будут устанавливаться правительством России.
"Сама идея маркировки ИИ-контента закономерна и ожидаема, однако эффективность нормы будет зависеть не от количества параметров модели, а от конкретного механизма ее исполнения", - рассказала в беседе с "РГ" председатель Комиссии АЮР по развитию правового просвещения в СМИ и блогосфере, доктор юридических наук, заместитель заведующего кафедрой в Университете имени О.Е. Кутафина (МГЮА) Елена Гринь.
По ее словам, важно определить: какой контент подлежит маркировке - полностью сгенерированный или также отредактированный с помощью ИИ? Должна ли отметка быть видимой для человека или машиночитаемой? А также, кто отвечает за ее сохранение после скачивания и дальнейшего распространения материала.
"Кроме того, необходимо разграничить ответственность разработчика модели, владельца сервиса и пользователя, который публикует результат, - подчеркивает она. - Маркировка не должна означать автоматическое признание такого контента недостоверным или незаконным. И наоборот: наличие отметки "создано с помощью ИИ" не освобождает от ответственности за нарушение авторских прав, использование изображения гражданина, введение потребителей в заблуждение и иные нарушения".
Поэтому, продолжает правовед, бизнесу уже сейчас стоит учитывать происхождение контента, условия использования конкретных моделей и порядок согласования публикаций. "Но окончательные выводы можно будет сделать только после появления точной редакции поправок и требований правительства к формату маркировки", - считает Елена Гринь.
Естественно, возникает резонный вопрос: можно ли технически встроить в искусственные умы такие алгоритмы, чтобы маркировка появлялась автоматически и была нестираемой? Вице-президент Ассоциации коммуникационных агентств России, управляющий партнер AI Influence Алексей Парфун рассказал "РГ", что механизмов может быть несколько.
"Технически маркировка возможна, конечно, но не в том виде, в каком ее обычно представляют, - сказал он. - Механизмов несколько. Видимая плашка "создано ИИ" - самый слабый, странный и даже вредный вариант. При желании она снимается кропом за пять секунд, а на скриншоте ее изначально нет".
Метаданные - это уже вариант сильный, продолжает собеседник "РГ". Например, криптографически подписанный паспорт файла, где указано: чем сделано, когда, что потом редактировали. Еще вариант: невидимый водяной знак в самом сигнале. "Модель на этапе генерации сдвигает пиксели так, чтобы в изображении осталась статистическая подпись, невидимая глазу, она переживает сжатие, кроп, скриншот, фильтры, легкий монтаж. Объективно эта технология ближе всего к "нестираемой". Но абсолютной устойчивости нет и тут", - сказал эксперт.
По его словам, важнейший практический вопрос: а где граница "измененного с помощью ИИ?". "Нейросеть сегодня стоит в камере телефона, она настраивает шумоподавление, есть склейка кадров, есть автоматическая ретушь. Формально ночное селфи создано с применением ИИ. Порога участия алгоритма в проекте нет, а без него под требование попадает почти весь визуальный контент", - говорит Алексей Парфун.