중국 사이버공간관리국이 인공지능(AI)으로 제작된 모든 콘텐츠에 라벨을 붙이는 방안을 새로운 규칙 초안의 일부로 검토하고 있다. 보도에 따르면, 중국 인터넷 규제 기관인 사이버공간관리국은 모든 디지털 플랫폼과 온라인 서비스 제공업체에 AI 생성 콘텐츠에 'AI' 표시를 추가하도록 요구하는 초안을 이미 마련해 놓은 상태다.
발표 에서 dent 표준화하고 국가 안보 및 플랫폼을 사용하는 개인과 조직의 이익을 보호하기 위한 것이라고 밝혔습니다.
규제 당국은 10월 14일까지 일반 시민의 의견 수렴을 위해 법안 초안을 공개했습니다. 발표에 따르면, 시민들은 이메일( [email protected]) 또는 서면으로 국가인터넷정보국 네트워크관리기술국에 의견을 제출할 수 있습니다.
대중의 의견이 최종 규칙 초안에 영향을 미칠 수 있지만, 전문가들은 중국 당국이 의견을 바탕으로 규칙 초안을 크게 변경하는 것으로 알려져 있지 않기 때문에 제안된 규칙은 최소한의 수정만 거쳐 현재 형태로 통과될 가능성이 높다고 보고 있습니다.
규칙 초안에 따르면 AI 콘텐츠에 로고와 음성 안내를 추가해야 합니다
이번 규칙 초안은 인공지능(AI)이 생성한 모든 텍스트, 비디오 또는 이미지 파일에 AI 생성 콘텐츠임을 나타내는 로고를 포함하도록 제안합니다. 이는 해당 콘텐츠를 접하는 모든 사람에게 이를 알리는 효과적인 방법입니다. 사용자가 이 표시를 쉽게 알아볼 수 있도록, 규칙 초안은 비디오의 시작, 끝 부분 및 기타 관련 시점에 로고를 표시할 것을 요구합니다.
오디오 파일의 경우, 제작자는 사용자가 AI 생성 콘텐츠를 듣기 시작할 때 이를 알려주는 음성 안내를 추가해야 하며, 이러한 안내는 오디오 콘텐츠의 다양한 부분에 대해 사용자에게 알려야 합니다. 오디오 콘텐츠를 재생하는 모든 소프트웨어 또한 사용자가 AI 콘텐츠 청취를 시작할 때 이를 알려주는 안내 기능을 갖추어야 합니다.
제안된 규칙 제4조는 다음과 같습니다
"서비스 제공자가 제공하는 생성 합성 서비스가 인터넷 정보 서비스 심층 합성 관리 규정 제17조 제1항에 해당하는 경우, 생성된 합성 콘텐츠에는 다음 요건에 따라 명시적인 로고를 추가해야 합니다."
한편, 이번 규칙 초안은 AI 생성 콘텐츠임을 나타내는 메타데이터를 파일에 포함하도록 요구하여 해당 콘텐츠에 라벨을 붙일 수 있도록 하고 있습니다. 하지만 메타데이터가 없는 경우, 서비스 제공업체가 콘텐츠를 분석하고 AI 생성 콘텐츠로 의심될 경우 직접 라벨을 붙여야 합니다.
이 규칙은 중국 인터넷 사용자에게도 적용됩니다. 인공지능(AI) 생성 콘텐츠를 게시하는 개인은 해당 콘텐츠에 라벨을 붙여야 합니다. 다른 플랫폼에서 AI 도구를 사용할 경우, 제안된 법안은 사용자에게 개인 정보를 제공하도록 요구하며, AI 생성 플랫폼은 사용자의 활동 기록을 6개월 동안 보관합니다.
한편, 초안 계획에는 소셜 미디어 플랫폼이 AI 콘텐츠 탐지 기술을 다른 플랫폼과 공유해야 한다는 요건도 포함되어 있는데, 이는 프로세스를 표준화하고 AI 콘텐츠 탐지 능력을 향상시키기 위한 조치입니다.
중국에서 콘텐츠 검열이 인터넷 사용에 있어 항상 중요한 부분이었던 점을 고려하면, 이번 새로운 규정은 놀라운 일이 아닙니다. 하지만 딥페이크를 비롯한 인공지능 기반 콘텐츠가 사기 및 기타 불법 행위에 악용되는 사례가 늘어나고 있는 상황에서, 인공지능 콘텐츠에 대한 규제 강화는 더욱 시의적절해 보입니다.
페이스북, 인스타그램, 틱톡 등 중국 외 지역의 여러 인기 소셜 미디어 플랫폼은 이미 콘텐츠 검열의 일환으로 AI 콘텐츠에 라벨을 붙이고 있습니다. 그러나 이러한 플랫폼의 탐지 도구는 완벽하지 않아, 극도로 사실적인 콘텐츠들이 여전히 AI 태그를 피해가는 경우가 발생하고 있습니다
