2023년 7월 13일, 중국 사이버공간관리국(CAC)을 비롯한 6개 중국 정부 기관은 '생성형 인공지능 서비스 관련 임시 행정 조치'를 발표했습니다. 이 조치는 2023년 8월 15일부터 시행되며, 중국이 생성형 인공지능 서비스를 규제하기 위한 첫걸음이 될 것입니다. 이번 조치는 산업 혁신과 발전을 촉진하는 동시에 생성형 인공지능 기술의 책임감 있고 법규를 준수하는 사용을 보장하는 균형을 맞추는 것을 목표로 합니다. 새로 발표된 조치의 주요 내용은 다음과 같습니다
조치의 범위
이 조치는 중국 내 일반 대중을 위한 텍스트, 사진, 오디오, 비디오 또는 기타 콘텐츠 생성 등 생성형 AI 서비스 제공에 적용됩니다. "일반 대중"이라는 용어는 아직defi되지 않았지만, 중국통신위원회(CAC)에서 추가 지침을 제공하지 않는 한 개인 및 기업 사용자를 포함하는 것으로 추정됩니다. 특히, 내부 연구 및 생성형 AI 기술은 일반 대중에게 서비스를 제공하는 목적이 아닌 경우 이 규정의 적용을 받지 않습니다.
중국 사용자는 해외 업체가 제공하는 인공지능 생성 서비스 이용이 명시적으로 금지되어 있지는 않습니다. 그러나 중국통신위원회(CAC)는 해당 서비스가 중국 법률 및 규정을 위반하는 경우 필요한 조치를 취할 수 있습니다.
서비스 제공자의 주요 의무
이 조치는 포괄적인 규제 체계를 구축하고, 생성형 AI 서비스 제공업체에 여러 가지 준수 의무를 부과합니다. 주요 요구 사항은 다음과 같습니다
1. 교육 데이터 규정 준수
서비스 제공업체는 교육 활동에 필요한 데이터와 기본 모델을 합법적인 경로로 확보해야 합니다. 또한 교육 과정이 타인의 지적 재산권을 침해하지 않도록 보장해야 합니다. 교육 과정에서 개인 정보를 처리하는 경우, 제공업체는 개인의 명시적인 동의를 얻거나 다른 법적 근거에 따라 처리해야 합니다. 더불어, 관련 사이버 보안, 데이터 보안 및 개인정보 보호법을 준수하면서 교육 데이터의 품질과 신뢰성을 향상시키기 위한 조치를 취해야 합니다.
2. 데이터 라벨링 및 품질 보증
기술 연구 개발 과정에서 데이터 라벨링을 수행하는 서비스 제공업체는 관련 규정을 준수하여 명확하고 구체적이며 실행 가능한 라벨링 규칙을 수립해야 합니다. 또한 라벨링 품질을 평가하고 라벨링 정확성을 확인하기 위한 무작위 점검을 실시해야 합니다. 라벨링 업무를 담당하는 직원에게는 적절한 교육이 제공되어야 합니다.
3. 개인정보 보호
서비스 제공자는 동의를 얻는 것 외에도 개인정보 보호 의무를 준수해야 합니다. 여기에는 불필요한 개인정보를 수집하지 않고, 사용자를 불법적으로dent할 수 있는 정보나 기록을 보유하거나 공유하지 않는 것이 포함됩니다. 또한 서비스 제공자는 사용자의 개인정보 관련 요청에 신속하게 응답해야 합니다.
4. 콘텐츠 검열 및 불법 활동
서비스 제공업체는 플랫폼상의 불법 콘텐츠에 대해 생성 및 전송을 중단하고 서비스에서 해당 콘텐츠를 삭제하는 등 신속하게 조치를 취할 책임이 있습니다. 사용자가 불법 활동에 인공지능 생성기 서비스를 이용하는 것이 적발될 경우, 제공업체는 경고를 발령하고 관련 기능 접근을 제한하며, 서비스 이용을 중단하거나 종료할 수 있습니다. 관련 기록은 보관하고 관할 규제 기관에 보고해야 합니다.
5. 보안 평가 및 알고리즘 제출:
여론 형성 기능이나 사회적 동원 능력을 갖춘 생성형 AI 서비스는 중국통신위원회(CAC) 및 기타 관련 규제 기관의 보안 평가를 받아야 합니다. 또한, 서비스 제공업체는 서비스 출시 후 10일 이내에 중국 인터넷 정보 서비스 알고리즘 추천 관리 규정에 따라 알고리즘을 제출해야 합니다.
시행
본 조치를 위반하는 경우 사이버보안법, 데이터보안법, 개인정보보호법, 과학기술진보법 등 여러 현행 법률에 따라 처벌을 받게 됩니다. 관할 규제기관은 감독 및 검사를 위해 서비스 제공업체에 협조를 요청할 권한이 있으며, 학습 데이터 출처, 라벨링 규칙, 알고리즘 메커니즘, 필요한 기술 및 데이터 지원에 대한 설명을 요구할 수 있습니다.
중국은 '생성형 인공지능 서비스 관련 임시 행정 조치'를 발표하며 생성형 인공지능 기술 및 서비스 규제에 있어 중요한 진전을 이루었습니다. 이 조치는 업계 혁신을 촉진하는 동시에 기존 법률을 준수하고 사용자의 권리와 데이터를 보호하는 균형을 맞추는 것을 목표로 합니다. 시행일이 다가옴에 따라 중국에서 사업을 운영하는 서비스 제공업체는 잠재적인 처벌 및 규제 조치를 피하기 위해 이러한 새로운 의무를 철저히 준수해야 합니다.
