기술 기업들, AI 생성 아동 성학대 자료 급증 대응 촉구

작년은 영국 자선단체인 인터넷 워치 파운데이션(IWF)이 '기록상 가장 극단적인 해'라고 불렀으며, IWF는 온라인에서 275,652건의 아동 성 학대 이미지라는 충격적인 수를 발견했습니다. 이 중 놀라운 수의 경우 가해자가 피해자를 협박하여 명시적인 자료를 제작하도록 강요했으며, 기술 기업과 온라인 플랫폼의 신속한 조치를 촉구했습니다. 규제가 느려지고 인공 지능이…

“각각의 URL은 개별 아동 성학대 이미지 또는 동영상을 하나, 한두 개, 수백 개, 심지어 수천 개씩만 드러낼 수 있다”고 보고서는 말했다(92%) (자발적이거나 강요된 경우, 또는 소셜 네트워크의 도움을 받아 웹캠을 통해 수행한 경우).

IWF 조사 결과

IWF에 따르면, 이 수치는 전 세계 50개 이상의 보고 포털을 통해 거의 40만 건의 보고서를 분석하고 ‘적극적 검색’을 통해 도출된 것이다. 이는 전년 대비 8% 증가한 수치이다.

미국은 14.8%의 웹사이트와 41,502개의 URL을 보유해 상위 국가였으며, 이는 최근 1년 동안 호스트 국가로서의 비중이 34%에서 3분의 1로 감소한 것과 대조된다.

IWF는 분석 결과 3~6세 아동의 자기 생성 비디오 2,401건이 이 범주에 포함되지 않았다고 밝혔다. 그중 대부분이 소녀였으며, 이는 오늘날 ‘기회주의자’로 간주되는 가해자들이 십대뿐만 아니라 어린 아동에 대한 성학대에서도 매우 활발하게 활동하고 있음을 보여주는 신호이다.

취해야 할 조치 

IWF는 ‘기술 기업과 온라인 플랫폼’이 영국의 온라인 안전법 시행을 기다리며 시간을 낭비하거나 정부가 매우 고통스러운 규제 조치를 취하는 데 의존하기보다는, 아동의 온라인 보안을 즉시 강화해야 한다는 입장이다. IWF는 자료 카테고리도 2022년 대비 22% 증가했다고 밝혔다. IWF에 따르면 이러한 극단적인 콘텐츠가 점점 더 자주 시청되는 것은 하나의 추세이며, 2021년부터 2022년까지 카테고리 A 콘텐츠의 양은 38% 증가했다. 

성착취(sextortion) 사례 수도 증가하고 있습니다. 이는 가해자가 아이들의 사진/파일, 정보 또는 동영상을 사용하여 피해자를 더 많은 사진이나 돈으로 협박하는 행위입니다. 해당 기관은 2021년 보고 메커니즘을 도입했을 때 이러한 유형의 사례가 단 6건이라고 기록했습니다. 작년에는 해당 기관이 176건의 성착취 관련 사례를 목격했다고 밝혔습니다. 재단은 AI가 수신하고 생성하는 증거가 인터넷상의 어린이들에게 심각한 위협이 되고 있다고 강조했습니다. 2023년 IWF는 아동 성학대의 자동 생성 이미지가 포함된 51개의 웹페이지를 처리했으며, 이 중 38개는 실제 것처럼 보이는 것으로 결론지었습니다.

이렇게 하여 그들은 통계 보고서에서 ‘진짜’ 이미지로 분류되었다. 또한 다른 228개의 URL에는 AI 생성 콘텐츠가 포함되었다. IWF가 조사한 자료 중 컴퓨터 생성 콘텐츠의 비율은 작지만, 자선 단체는 ‘급속한 성장 가능성’ 때문에 경계하고 있다. 특히 AI를 통해 아동 음란물 자료를 생성하거나 배포하는 방법의 매뉴얼을 출판하는 도메인 등에서 이러한 경우가 발생하며, 이는 기존 법적 체계의 적용을 벗어날 수 있다. IWF는 DW에서 매뉴얼 을 접했는데, 이는 가해자들이 “우리는 이전에 이런 행동을 본 적이 있지만, 범죄자들이 자위 목적으로 AI를 사용하도록 서로 조언하고 격려하는 데 협력한 첫 번째 증거라는 점이 특히 우려스럽다”고 IWF는 allegedly 말했다.