23.05.2024 11:52
Технологии

В Роскачестве заявили о необходимости маркировки цифрового контента

Текст:  Олег Капранов
Отличить видео, фото и текст, сгенерированные нейросетью, можно только с помощью специальных программ. Это создает большие возможности для мошенничества и манипуляций общественным мнением, уверены в Роскачестве. Решением может стать маркировка цифрового контента, которая поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга.
Читать на сайте RG.RU

Ежегодно отмечается стремительный рост фейков в Сети. Так, по данным АНО «Диалог Регионы», в прошлом году в российском сегменте интернета было зафиксировано 4 тысячи уникальных фейков и 12 миллионов случаев их распространения.

Эксперты прогнозируют, что в этом году число уникальных фейков достигнет 4,5 тысячи, а количество их копий возрастет до 15 миллионов. В связи с этим требуются срочные меры по регулированию контента, созданного нейросетями.

В Госдуме уже начали разработку закона о маркировке ИИ-контента. На данный момент обсуждается, как именно и в каких случаях будет маркироваться контент, кто должен нести ответственность за его распространение. Будет ли маркировка касаться только контента, распространяемого СМИ, или пользовательского контента, используемого в личных целях. Предполагается, что маркировка будет осуществляться при помощи графических или водяных знаков. Метки будут выглядеть ненавязчиво, но при этом заметно.

В случае принятия закона, российские ИИ-сервисы будут обязаны автоматически маркировать сгенерированные тексты. Поэтому таким крупным компаниям как Сбер и Яндекс следует уже сейчас задуматься о внедрении технологии маркировки.

«Сегодня ИИ-сервисы стали доступны любому человеку, у которого есть устройство с выходом в интернет. Только с помощью специальных программ можно отличить видео, фото и текст, сгенерированные нейросетью. Это создает большие возможности для мошенничества и манипуляций общественным мнением. Соответствующая маркировка цифрового контента поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга», - говорит Сергей Кузьменко, руководитель Центра цифровой экспертизы Роскачества.

.tech Нейросети