Минцифры: В России обсуждается маркировка и блокировка ИИ-контента

Правительство готовит меры против дипфейков и сгенерированного нейросетями контента. Обсуждаются меры по обязательной маркировке таких материалов - фотографий, видео и текстов, а также по выявлению случаев, когда подобный контент используется для мошенничества и распространения фейков. Об этом рассказал заместитель главы Минцифры Александр Шойтов на Российском форуме по управлению интернетом.

В ходе своего выступления замминистра отметил, что платформы, позволяющие создавать сложный цифровой контент со специальными эффектами, сегодня доступны широкой аудитории. Поэтому в России и в мире "назрела" необходимость регулирования ИИ-технологий, так как их ключевой риск - это использование мошенниками и экстремистами. При этом он подчеркивает, что не нужно бороться "со всем" контентом, есть творческие, научные и другие материалы, которые "не нужно трогать".

По словам Шойтова, одним из наиболее важных инструментов борьбы станет маркировка контента. Она может быть видимой для пользователей, машиночитаемой или основанной на криптографических методах подтверждения. Сегодня уже существуют методы обнаружения такого контента с достаточно высоким уровнем выявления в видео, аудио и в неочевидных текстовых форматах дипфейков, говорит замминистра.

Также развивается и международный опыт. В сфере проверки достоверности информации Шойтов призывает к международному сотрудничеству, указывая, что в России уже существует сообщество по фактчекингу. "Другое направление - международное взаимодействие. Когда производится обмен информацией о преступлении, там другие механизмы, другие скорости реагирования должны быть", - говорит Шойтов.

В контексте противодействия преступлениям замминистра отметил и работу над созданием ГИС "Антифрод", которая в перспективе может стать элементом международной повестки.

Также активно обсуждается и проект о регулировании искусственного интеллекта. В рамках документа рассматривается, например, создание реестра ИИ-технологий. Чтобы туда попасть, нужно будет пройти специальное тестирование. В перспективе это поможет автоматически выявлять опасный контент и предотвращать его создание. Шойтов подчеркнул, что искусственный интеллект должен быть подвержен цензуре.

"Человек у нас цензуре не подлежит в соответствии с конституцией. Искусственный интеллект пока не является таким же субъектом как человек, поэтому он должен быть подвержен полноценной цензуре до момента, пока мы хорошо не разберемся с технологией. Эту грань нужно искать сначала технологически, а потом нормативно", - заключил Шойтов.