Проект правил Китая требует четкой идентификации контента, созданного ИИ

Китайское управление киберпространства рассматривает маркировку всего контента, созданного искусственным интеллектом, в рамках нового проекта правил. Согласно сообщениям, регулятор, являющийся китайским интернет-органом, уже подготовил проект плана, требующий от всех цифровых платформ и поставщиков онлайн-услуг добавлять маркировку ИИ к контенту, созданному ИИ.

В анонсе от 14 сентября регулятор заявил, что этот шаг стандартизирует процесс идентификации контента, созданного ИИ, и защитит национальную безопасность, а также интересы физических и юридических лиц, использующих платформы.

Регулятор опубликовал проект закона, открытый для общественных комментариев до 14 октября. Согласно объявлению, общественность может отправлять комментарии по электронной почте на [email protected] или письмом в Бюро технологий управления сетью Государственного управления по делам интернет-информации.

Хотя общественные комментарии могут повлиять на окончательный проект правил, эксперты считают, что предложенные правила, вероятно, будут приняты в их текущей форме с минимальными изменениями, поскольку китайские власти не известны тем, что вносят радикальные изменения в проекты правил на основе комментариев.

Проект правил требует добавления логотипов и голосовых подсказок к контенту ИИ

Проект правила предлагает, чтобы любой текстовый, видео или изображение файл, созданный ИИ, содержал логотип, обозначающий, что он создан ИИ, эффективно уведомляя любого, кто столкнется с таким контентом. Чтобы убедиться, что пользователи замечают метку, правило требует, чтобы она отображалась в начале, конце и в других соответствующих моментах внутри видео.

Для аудиофайлов создатели должны добавить голосовые подсказки, которые информируют пользователей о том, что они собираются слушать контент, созданный ИИ, при этом такие подсказки уведомляют их о различных частях аудио контента. Все программное обеспечение, воспроизводящее аудио контент, также должно иметь подсказки, сообщающие пользователям, когда они начинают слушать контент ИИ.

Статья 4 предложенных правил гласит:

«Если услуга генерации и синтеза, предоставляемая поставщиком услуг, подпадает под первый пункт статьи 17 Положений об управлении глубоким синтезом интернет-информационных услуг, к сгенерированному синтетическому контенту должен быть добавлен явный логотип в соответствии со следующими требованиями.»

Тем временем проект правила также требует, чтобы метаданные, встроенные в файл, отражали, что он создан ИИ, что позволяет маркировать такой контент. Однако, если метаданных нет, поставщикам услуг придется анализировать контент и маркировать его как таковой, если есть подозрение, что он создан ИИ.

Правила также применяются к интернет-пользователям Китая. Физические лица, публикующие контент, созданный ИИ, должны маркировать его. Когда они используют инструменты ИИ на других платформах, предложенный закон требует от них предоставления личной информации, а платформа генерации ИИ будет вести журнал их действий в течение шести месяцев.

Китай требует от интернет-платформ делиться технологиями

Тем временем проект плана также включает требования к тому, чтобы социальные медиа-платформы делились своими технологиями для обнаружения контента ИИ с другими, что направлено на стандартизацию процесса и улучшение способности обнаруживать контент ИИ.

Новые правила не стали сюрпризом, учитывая, что модерация контента всегда была важной частью использования интернета в Китае. Однако фокус на контенте ИИ кажется более актуальным в свете глубоких фейков и другого контента, созданного ИИ, который многие используют для совершения мошенничества и других незаконных действий.

Несколько популярных социальных медиа-платформ за пределами Китая, включая Facebook, Instagram и TikTok, уже маркируют контент ИИ как часть своей модерации. Однако их инструменты обнаружения не идеальны, так как множество гиперреалистичного контента все еще избегает тегов ИИ на этих платформах