한국 정부, 딥페이크 이미지로 그록 조사

한국 정부는 일론 머스크 소유의 xAI의 생성형 인공지능(AI) 채팅봇인 그록에 대한 규제 조치를 모색하고 있습니다. 이는 채팅봇과 성적으로 착취적인 딥페이크 이미지 생성 및 배포에 대한 여러 비판에 이어진 것입니다.

이 정보는 로컬 뉴스 매체인 일렉트로닉 타임즈에 의해 보고되었으며, 이 매체는 주장이 여러 개인들에 의해 국가에서 보고된 후 개인정보보호위원회(PIPC)가 그록에 대한 예비 사실 조사 검토를 시작했다고 언급했습니다.

예비 과정은 공식 조사가 시작되기 전에 위반이 실제로 발생했는지 그리고 그 사안이 관할권에 속하는지 확인하는 것입니다.

한국 정부, 그록에 대한 검토 수행

보고에 따르면, 이 검토는 현지 및 해외에서 부상한 여러 보고서에 이어지며, 그록이 명시적이고 동의 없는 딥페이크 이미지를 생성하는 데 사용되었다고 비난합니다. 그 중 대부분은 실제 개인과 미성년자를 포함합니다.

이를 통해 PICP는 보고에 따르면 그록이 제공한 설명과 기타 지원 문서를 검토한 후 다음 조치 과정을 결정할 것입니다. 이 기관은 또한 의사 결정을 형성할 글로벌 규제 트렌드를 검토할 것으로 예상됩니다.

개인정보보호법에 따르면 동의 없이 식별 가능한 개인의 성적인 이미지를 변경하거나 생성하는 것은 불법적인 개인정보 처리로 간주될 수 있습니다.

소셜 플랫폼 X에 통합되어 플랫폼에서 텍스트 및 이미지 생성을 모두 제공하는 AI 채팅봇들은 지난 해부터 실제 사람의 가짜 이미지 생성에 대해 여러 비판을 받아왔습니다. 이 채팅봇은 일반 대중으로부터 비난받은 모든 종류의 compromising 이미지를 생성하는 데 사용되었습니다.

글로벌 비정부 기체인 디지털 혐오 대응 센터(Center for Countering Digital Hate)에 따르면, 그록은 2025년 12월 29일부터 2026년 1월 8일 사이에 300만 개 이상의 성적으로 명시적인 이미지를 생성하는 데 사용된 것으로 추정됩니다.

이 조직은 그 숫자 중 23,000개 이상이 채팅봇을 사용하여 생성된 미성년자의 이미지라고 주장합니다. 이 센터는 그록의 AI 생성 이미지의 빠른 확산이 온라인에서 명시적인 콘텐츠의 대규모 유통으로 이어졌다고 경고했습니다.

규제 기관은 이 위협을 억제하기 위해 취해진 조치에 대한 보고서를 원합니다

이 센터는 또한 개발이 어린이들에게 심각한 안전 위험을 초래한다고 경고했습니다. 이 위협으로 인해 미국, 영국, 프랑스, 캐나다 및 기타 일부 국가들은 수사를 시작했으며, 인도네시아, 필리핀, 말레이시아와 같은 국가들은 그록에 대한 접근을 차단했습니다.

논란에 대응하여 xAI는 올해 초 이를 방지하기 위해 특정 기술 조치를 구현했다고 발표했습니다.

플랫폼은 무료 및 유료 사용자가 모두 실제 사람의 이미지를 편집하거나 생성하는 것을 중단했으며, 곧 추가 안전 장치를 발표할 것이라고 덧붙였습니다.

한국에서 미디어통신위원회(KMCC)는 1월 14일 X에 더 강력한 청소년 보호 조치를 요구했습니다. 한국 규제 기관은 소셜 미디어 플랫폼에 그 AI 회사가 불법적이거나 유해한 콘텐츠의 생성을 방지하기 위한 계획을 수립해야 한다고 말했습니다.

또한 규제 기관은 회사가 미성년자의 그러한 콘텐츠 접근을 제한해야 한다고 덧붙였습니다.

현재 X는 법률에 따라 한국에 지정된 청소년 보호 책임자를 두고 있으며 관련 준수 사항에 대한 연간 보고서를 제출합니다. KMCC는 그록의 안전 프로토콜에 대한 추가 문서 제출을 플랫폼에 촉구하며, 그 플랫폼에서 생성 및 배포된 동의 없는 성적인 이미지, 특히 미성년자를 포함한 것은 한국에서 범죄 행위라고 지적했습니다.

위원회는 2주의 마감일을 설정했습니다. X가 응답하지 않거나 요청을 무시하면 최대 1,000만 원($6,870)의 행정 벌금을 부과할 수 있습니다. 같은 조치는 xAI가 이 위협의 급증을 억제하기 위한 조치를 마련하도록 지시된 다른 국가들에서도 목격되었습니다.

한국과 마찬가지로 해당 기업도 위협의 확산을 제한하기 위해 취한 조치를 보여주는 보고서를 작성 및 제출하지 않을 경우 상당한 과태료를 부과하겠다고 발표했습니다.