중국 초안 규칙은 AI 생성 콘텐츠의 명확한 식별을 요구합니다

중국 사이버공간 관리국은 새로운 초안 규칙의 일환으로 인공지능이 생성한 모든 콘텐츠에 라벨을 붙이는 것을 고려하고 있습니다. 보고서에 따르면, 중국 인터넷 당국인 규제 당국은 이미 모든 디지털 플랫폼과 온라인 서비스 제공업체에게 AI 생성 콘텐츠에 AI 마크를 추가하도록 요청하는 초안 계획을 준비했습니다.

9월 14일 발표에서 규제 당국은 이 조치가 AI 생성 콘텐츠의 식별 프로세스를 표준화하고 플랫폼을 사용하는 개인 및 조직의 국가 안보와 이익을 보호할 것이라고 밝혔습니다.

규제 당국은 10월 14일까지 공개 의견을 받기 위한 법률 초안을 발표했습니다. 발표에 따르면, 대중은 이메일([email protected])이나 서신(국가 인터넷 정보 사무실 네트워크 관리 기술국)을 통해 의견을 보낼 수 있습니다.

공개 의견이 최종 규칙 초안에 영향을 미칠 수 있지만, 전문가들은 중국 당국이 의견에 기반하여 규칙 초안에 극적인 변경을 가하는 것으로 유명하지 않기 때문에 제안된 규칙이 현재 형태와 최소한의 변경으로 통과될 가능성이 높다고 믿습니다.

초안 규칙은 AI 콘텐츠에 로고와 음성 프롬프트 추가를 요구합니다

초안 규칙은 AI가 생성한 모든 텍스트, 비디오 또는 이미지 파일에 AI 생성임을 나타내는 로고를 포함하여 그러한 콘텐츠를 접하는 모든 사람에게 알리는 것을 제안합니다. 사용자가 라벨을 인지하도록 하기 위해, 규칙은 비디오의 시작, 끝 및 기타 관련 순간에 라벨이 표시되기를 원합니다.

오디오 파일의 경우, 제작자는 사용자가 AI 생성 콘텐츠를 듣기 시작할 때 사용자에게 알리는 음성 프롬프트를 추가해야 하며, 이러한 프롬프트는 오디오 콘텐츠의 다양한 부분을 사용자에게 알립니다. 오디오 콘텐츠를 재생하는 모든 소프트웨어도 사용자가 AI 콘텐츠를 듣기 시작할 때 사용자에게 알리는 프롬프트를 갖추어야 합니다.

제안된 규칙의 4조는 다음과 같이 읽힙니다.

“서비스 제공자가 제공하는 생성 합성 서비스가 ‘인터넷 정보 서비스의 딥 시네시스 관리 규정’ 제17조 제1항에 해당하는 경우, 생성된 합성 콘텐츠에는 다음 요구사항에 따라 명시적인 로고를 추가해야 합니다.”

한편, 초안 규칙은 파일에 임베드된 메타데이터가 AI 생성임을 반영하여 이러한 콘텐츠에 라벨을 붙일 수 있도록 요구합니다. 그러나 메타데이터가 없는 경우, 서비스 제공자가 콘텐츠를 분석하여 AI 생성으로 의심될 경우 해당 콘텐츠에 라벨을 붙이는 것이 됩니다.

규칙은 중국 인터넷 사용자에도 적용됩니다. AI 생성 콘텐츠를 게시하는 개인은 이를 라벨로 표시해야 합니다. 다른 플랫폼에서 AI 도구를 사용할 때, 제안된 법률은 개인 정보를 제공하도록 요구하며, AI 생성 플랫폼은 그들의 활동을 6개월 동안 기록으로 보관합니다.

중국은 인터넷 플랫폼에 기술 공유를 요구합니다

한편, 초안 계획에는 소셜 미디어 플랫폼이 AI 콘텐츠 감지 기술을 타인과 공유해야 한다는 요구사항도 포함되어 있으며, 이는 프로세스를 표준화하고 AI 콘텐츠 감지 능력을 향상시키기 위한 조치입니다.

콘텐츠 검열이 중국에서 인터넷 사용의 중요한 부분이었다는 점을 고려하면 새로운 규칙은 놀라운 일이 아닙니다. 그러나 딥페이크와 기타 AI 생성 콘텐츠가 사기 및 기타 불법 행위를 저지르는 데 사용되는 많은 상황에서 AI 콘텐츠에 대한 초점은 더 관련성이 높게 보입니다.

Facebook, Instagram, TikTok을 포함한 중국 외부의 여러 인기 소셜 미디어 플랫폼은 이미 콘텐츠 검열의 일환으로 AI 콘텐츠에 라벨을 붙이고 있습니다. 그러나 그들의 감지 도구는 완벽하지 않아, 여러 하이퍼리얼istic 콘텐츠가 여전히 이러한 플랫폼의 AI 태그를 피하고 있습니다.