유니세프, AI 생성 아동 학대 콘텐츠 범죄화를 위한 강화된 법안 촉구

유니세프(UNICEF)는 수요일 인터넷 상에서 AI 생성 성적인 이미지가 급증하고 있다는 보고서를 인용했습니다. 이러한 AI 생성 이미지는 주로 아동의 사진을 조작하여 성적으로 왜곡한 사례를 포함하고 있었습니다.

유니세프는 아동 성학대 자료를 생성하는 AI 기반 이미지 또는 비디오 생성 도구의 증가가 디지털 기술을 통해 아동에게 미치는 위험을 증대시킨다고 주장했습니다. 또한 유니세프는 정부와 산업계가 AI 생성 아동 성 콘텐츠의 생성과 확산을 방지하기 위해 긴급한 조치를 취할 것을 촉구했습니다.

AI 생성 성적인 콘텐츠는 아동에게 장기적인 정서적 피해를 줍니다

딥페이크 남용은 학대입니다.

AI 도구를 사용하여 생성되거나 조작된 아동의 성적인 이미지, 비디오, 오디오는 아동 성학대 자료로 간주됩니다. 식별 가능한 피해자가 없더라도 이는 아동의 성적 착취를 정상화시킵니다.

유니세프, … 방지를 위한 긴급 조치 촉구

— 유니세프 (@UNICEF) 4월 2026일

유엔 기구는 5년 전만 해도 고품질 생성 모델에 상당한 컴퓨팅 파워와 전문 지식이 필요했지만, 현재 오픈소스 모델은 가해자가 성학대 콘텐츠를 생성하기 더 쉽게 만들었다고 지적했습니다. 

유니세프는 실제 아동이 직접 관여하지 않더라도 이러한 콘텐츠가 아동의 성적 대상화를 정상화하고 피해자 신원 확인을 복잡하게 만든다고 믿습니다. 유니세프는 또한 프레임워크 정책이 전체 산업을 위해 마련된 것이므로 한 회사에 설정된 표준이 업계의 모든 다른 회사에도 적용된다고 주장했습니다. 그는 “많은 사람들이 더 큰 그림을 놓치고 있습니다. 정책은 한 회사나 프로젝트에만 적용될 수 없습니다. 한 회사에 좋은 것은 업계 나머지에도 좋은 것입니다.”라고 말했습니다. 가해자가 아동의 동의나 인식 없이도 사실적인 성적인 이미지를 생성할 수 있다고 밝혔습니다. 

유니세프는 이러한 콘텐츠가 아동이 그 사실을 알지 못한 채로도 보호받을 권리를 침해할 수 있다고 말했습니다. 또한 아동은 수치심, 낙인, 동료 및 성인으로부터의 더 많은 판단, 사회적 고립, 장기적인 정서적 피해를 겪게 된다고 밝혔습니다.

유니세프는 AI 기반 이미지 또는 비디오 생성 도구의 접근성 증가가 아동 성학대 자료(CSAM)의 생산과 확산 급증을 초래했다고 밝혔습니다. 영국 인터넷 감시 재단(IWF)은 단 한 달 만에 아동 성학대 자료 전용 다크웹 포럼에서 약 14,000개의 의심스러운 AI 생성 이미지를 발견했습니다. 보고서는 해당 자료의 3분의 1이 범죄성이며, 첫 번째로 사실적인 아동 성학대 AI 비디오가 공개되었다고 밝혔습니다. 

IWF는 또한 전년도의 13개 비디오에서 26,362% 급증한 3,440개의 아동 성학대 AI 비디오를 발견했습니다. 이 중 2,230개(65%)는 너무 극단적이어서 카테고리 A로 분류되었고, 추가로 1,020개(30%)는 카테고리 B로 분류되었습니다.

IWF는 주요 플랫폼에서도 AI CSAM을 발견했으며, 여기에는 소녀들을 대상으로 한 피어투피어 환경에서 생성된 딥페이크 누드가 포함되었습니다. 또한 기관은 한국에서 법 집행 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 2022년부터 2024년까지 AI 및 딥페이크 기술 관련 성범죄가 10배 증가한 사례를 지적했습니다. 

AI 및 딥페이크의 주요 대상은 주로 청소년이었고, 이는 피고인의 과반수를 차지했습니다. 썬리(Thorny)의 설문조사 discovered 미국 청소년 10명 중 1명이 친구들이 AI 도구를 사용하여 아동의 동의 없는 합성 음란 이미지를 생성한 사례를 알고 있다고 밝혔습니다.

유니세프, ECPAT 인터내셔널, 인터폴은 2025년 11개국에서 약 120만 명의 아동이 AI 도구를 통해 성적으로 노골적인 딥페이크로 이미지가 조작된 사실을 알게 되었다고 밝혔습니다. 또한 기관들은 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 11개국 중 일부 국가의 아동 3명 중 최대 2명이 AI가 가짜 성적인 이미지를 생성하는 데 사용될 수 있다고 우려하고 있다고 밝혔습니다.

유니세프는 부모와 보호자가 AI 기반 성적 착취 및 학대에 대해 정보를 얻어야 한다고 주장했습니다. 또한 학교가 학생들에게 AI 관련 위험과 피해자에게 미치는 피해에 대해 교육할 것을 촉구했습니다.

AI 생성 성적인 딥페이크로 인해 그록(Grok)과 거리를 두는 국가들

유니세프의 보고서는 일론 머스크의 AI 도구 그롭 금지된 국가에서 실제 사람의 사진을 편집하여 노출이 심한 복장으로 보여주는 기능을 방지하는 기능을 구현한 시점과 맞물려 나왔습니다. 이 조치는 성적인 AI 딥페이크에 대한 광범위한 우려 이후 이루어졌습니다.

영국 정부는 그록의 통제를 X에 요청했으며, 규제 기관 오토클(Ofcom)은 이를 수정하기 위해 밤낮없이 작업 중이라고 밝혔습니다. X 는 성명에서 금지된 국가에서 그록 계정을 통해 그리고 X 내 그록을 사용하여 비키니, 속옷 및 유사한 의상을 입은 실제 사람의 이미지 생성 기능을 지리적으로 차단했다고 밝혔습니다.

말레이시아와 인도네시아도 지난달 초 성적으로 노골적인 딥페이크 생성 능력으로 인해 그록에 대한 접근을 차단했습니다. 크립토폴리탄(Cryptopolitan) 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 이번 달 초 X가 해당 국가의 법규 준수 개선을 약속한 후 인도네시아가 그록의 운영 재개를 허용했다고 보도했습니다.