Однако еще до вступления новых требований в силу ряд ведущих китайских компаний уже начал менять функциональность своих сервисов. Так, ByteDance объявила, что с 15 июля в чат-боте Doubao будет прекращена работа функции создания пользовательских ИИ-персонажей (AI agents). Аналогичные изменения вводит Alibaba в своей платформе Qwen. Ранее возможность создавать персонализированных виртуальных собеседников убрала и Tencent в сервисе Yuanbao. Формально компании объясняют изменения обновлением функционала, однако сроки этих решений практически полностью совпадают с введением новых требований регуляторов.
Новые правила распространяются на сервисы, способные имитировать общение с человеком с помощью текста, голоса, изображений или видео. Они вводят целый ряд обязательных требований для разработчиков. Теперь такие системы должны недвусмысленно сообщать пользователю, что он взаимодействует с искусственным интеллектом, а не с реальным человеком. Компании обязаны проводить оценку безопасности моделей, хранить журналы работы сервисов, обеспечивать возможность отслеживания происхождения сгенерированного контента и принимать меры по предотвращению распространения противоправной информации.
Кроме того, документ запрещает использовать подобные сервисы для манипулирования эмоциями пользователей, формирования психологической зависимости или введения человека в заблуждение относительно личности собеседника. Отдельные ограничения касаются несовершеннолетних: например, запрещается создавать для них виртуальных романтических партнеров, а при длительном общении система должна рекомендовать сделать перерыв.
Особое внимание уделено сервисам, способным оказывать влияние на общественное мнение. Если алгоритмы могут использоваться для массового распространения информации или обладают значительным общественным воздействием, разработчики обязаны пройти государственную проверку безопасности и регистрацию в установленном порядке. На компании также возлагается ответственность за предотвращение создания дипфейков, мошеннического контента, материалов, нарушающих авторские права, а также информации, которая может представлять угрозу государственной безопасности или общественной стабильности.
Как отмечают эксперты, Пекин делает еще один шаг к формированию одной из самых строгих в мире систем регулирования генеративного искусственного интеллекта. Власти КНР подчеркивают, что развитие ИИ остается национальным приоритетом, однако оно должно происходить под постоянным государственным контролем, обеспечивающим безопасность технологий и минимизацию связанных с ними социальных и политических рисков. Причиной для ужесточения подхода стало быстрое повышение уровня качества создаваемых видеоизображений и технологий имитации голоса, когда стало затруднительно распознавать, настоящий человек на видео или сгенерированный ИИ-персонаж, а также использование этих возможностей для преступных целей и введение в заблуждение.