Управление по киберпространству Китая рассматривает возможность маркировки всего контента, созданного с помощью искусственного интеллекта, в рамках нового проекта правил. Согласно сообщениям, регулирующий орган, являющийся китайским интернет-контролем, уже подготовил проект плана, в котором всем цифровым платформам и онлайн-провайдерам предлагается добавлять маркировку AI к контенту, созданному с помощью ИИ.
В заявлении от 14 сентября регулирующий орган сообщил, что этот шаг позволит стандартизировать процесс идентификации контента, dent с помощью ИИ, и защитить национальную безопасность, а также интересы отдельных лиц и организаций, использующих эти платформы.
Регулятор опубликовал проект закона, открытый для общественного обсуждения до 14 октября. Согласно объявлению, общественность может направлять свои комментарии по электронной почте на адрес [email protected] или письмом в Бюро по управлению сетевыми технологиями Государственного управления интернет-информации.
Хотя комментарии общественности могут повлиять на окончательный вариант правил, эксперты считают, что предлагаемые правила, скорее всего, будут приняты в их нынешнем виде с минимальными изменениями, поскольку китайские власти не известны тем, что вносят радикальные изменения в проекты правил на основе комментариев.
В проекте правил требуется добавлять логотипы и голосовые подсказки к контенту, созданному с помощью ИИ
В проекте правил предлагается, чтобы любой текстовый, видео- или графический файл, созданный с помощью ИИ, содержал логотип, указывающий на то, что он создан ИИ, тем самым эффективно оповещая любого, кто столкнется с таким контентом. Чтобы пользователи заметили метку, правило предлагает показывать ее в начале, в конце и в другие важные моменты видео.
Для аудиофайлов создатели должны добавить голосовые подсказки, которые информируют пользователей о начале прослушивания контента, сгенерированного ИИ, при этом такие подсказки должны сообщать о различных частях аудиоконтента. Все программы для воспроизведения аудиоконтента также должны иметь подсказки, сообщающие пользователям о начале прослушивания контента, сгенерированного ИИ.
Статья 4 предлагаемых правил гласит:
«Если предоставляемая поставщиком услуг услуга генерации синтезированного контента подпадает под действие первого абзаца статьи 17 Регламента об управлении глубоким синтезом информационных услуг в Интернете, к сгенерированному синтезированному контенту должен быть добавлен соответствующий логотип в соответствии со следующими требованиями»
Между тем, проект правил также требует, чтобы метаданные, встроенные в файл, отражали тот факт, что он сгенерирован искусственным интеллектом, что позволит маркировать такой контент. Однако, если метаданные отсутствуют, анализ контента и его маркировка в случае подозрения на генерацию искусственным интеллектом будут возложены на поставщиков услуг.
Эти правила также распространяются на китайских интернет-пользователей. Лица, публикующие контент, созданный с помощью ИИ, должны его маркировать. При использовании инструментов ИИ на других платформах предлагаемый закон требует от них предоставления личной информации, а платформа, генерирующая контент с помощью ИИ, будет вести журнал их действий в течение шести месяцев.
Между тем, проект плана также включает требования о том, что платформа социальных сетей должна делиться своей технологией обнаружения контента, созданного с помощью ИИ, с другими, что призвано стандартизировать процесс и улучшить возможности обнаружения такого контента.
Новые правила не стали неожиданностью, учитывая, что модерация контента всегда была важной частью использования интернета в Китае. Однако акцент на контенте, созданном с помощью ИИ, представляется более актуальным в свете использования дипфейков и другого контента, сгенерированного ИИ, многими для совершения мошенничества и других противоправных действий.
Некоторые популярные социальные сети за пределами Китая, включая Facebook, Instagram и TikTok, уже помечают контент, созданный с помощью ИИ, в рамках модерации контента. Однако их инструменты обнаружения не идеальны, поскольку многие гиперреалистичные изображения по-прежнему ускользают от меток ИИ на этих платформах
