인터넷 감시 재단, 인공지능 발전이 아동 성폭력(CSAM)을 악화시킬 수 있다고 경고

에나

시 마파카메 지음

읽는 데 3분 소요 , 2024년 7월 22일

IWF는 생성적 AI 도구가 더욱 널리 보급되고 정교해짐에 따라 AI가 생성하는 CSAM이 잠재적으로 증가할 수 있다고 경고했습니다.
IWF는 이미 2024년에 제정된 CSAM이 2023년 제정된 CSAM보다 "더 현실적"이라고 지적했습니다.
감시기관은 현재 CSAM의 제작과 유포를 범죄화하는 법률 제정을 추진하고 있습니다.

인터넷 감시 재단(IWF)은 AI 도구의 발전으로 인해 AI가 생성한 아동 성적 학대 영상(CSAM)이 인터넷에서 더 널리 퍼질 수 있다는 우려를 표명했습니다.

안전 감시 기관은 인공지능 생성 도구가 정교해짐에 따라 실제 이미지나 동영상과 인공지능이 생성한 가짜 콘텐츠를 구분하기가 어려워지고 있다고 지적했습니다. 이 기관에 따르면 2024년에 생성된 인공지능 이미지는 2023년에 처음 공개된 이미지보다 더 "사실적" 이라고 합니다

인터넷 감시 재단, CSAM 증가 확인

IWF는 AI가 생성한 아동 성범죄가 인터넷에 더 많이 유포될 것을 악용하여 도구를 더 쉽게 사용하고 널리 사용하게 되면서 AI 기술의 발전을 . 안전 감시 단체인 IWF는 이미 인터넷에서 AI가 생성한 아동 성범죄가 증가하고 있음을 확인했습니다.

IWF는 이미 아동 포르노 조작 사례를 발견했으며, 다른 사례들은 아동의 얼굴이 영상에 사용된 성인 포르노와 관련이 있었습니다. IWF에 따르면, 일부 콘텐츠는 약 20초 길이의 영상과 관련이 있었습니다.

IWF의 최고기술책임자(CTO)인 댄 섹스턴은 AI 비디오 도구가 AI 이미지 생성 도구와 같은 추세를 따른다면 AI CSAM이 더 많이 등장할 가능성이 있다고 밝혔습니다. 기술이 빠른 속도로 발전하고 있기 때문입니다.

그는 "같은 추세가 이어진다면 더 많은 영상을 볼 수 있을 것 같다"고 말했다.

섹스턴은 향후 AI 영상이 "더 높은 품질과 사실성"을 갖출 가능성이 높다고 덧붙였다.

IWF 분석가들에 따르면, 소아성애자들이 다크 포럼에서 IWF가 검토한 영상 대부분은 부분적인 딥페이크였습니다. 이 경우, 온라인에서 무료로 제공되는 AI 모델을 활용하여 기존 CSAM 영상과 성인 포르노 영상의 이미지(알려진 CSAM 피해자의 이미지 포함)를 조작했습니다.

해당 기관은 9개의 영상을 발견했지만, AI가 완전히 제작한 영상 중 일부는 기본적인 품질이었습니다.

(1/4) #AI 기반 아동 성학대 자료 확산 현황 – 작년에 저희는 AI가 생성한 사실적인 아동 성학대 이미지 의 확산에 대해 처음으로 경고한 단체 중 하나였습니다 … pic.twitter.com/s4igkjHH78

— 인터넷 감시 재단(IWF) (@IWFhotline) 2024년 7월 22일

감시기관은 CSAM 제작을 범죄화하려고 합니다.

IWF는 현재 이러한 자료 제작을 불법화하는 법률 제정을 추진하고 있으며, 여기에는 해당 콘텐츠 제작 가이드 제작도 포함됩니다. 또한 CSAM 제작을 가능하게 하는 도구 및 플랫폼 개발도 불법화해야 합니다.

올해 한 다크웹 포럼을 대상으로 실시한 연구에 따르면, 한 달 동안 AI가 생성한 새로운 이미지가 12,000개나 게시된 것으로 나타났습니다.

IWF에 따르면, 해당 이미지 10장 중 9장은 사실적이었으며, 실제 CSAM을 다루는 영국 법률에 따라 기소될 수 있었습니다.

또한 읽어보세요: 암호화폐로 아동 포르노를 구매한 텍사스 남성, 유죄 판결

작년에 국립실종착취아동센터(NCMEC)는 변태들이 AI를 다양한 방식으로 이용했다는 신고를 여러 건 접수했다고 밝혔습니다 . 예를 들어, 아동 학대 이미지를 만들기 위해 문자 메시지를 입력하는 등의 행위가 있었습니다. 어떤 경우에는 가해자들이 이전에 업로드된 사진을 성적으로 노골적이고 학대적인 이미지로 변경하기도 했습니다 .

IWF CEO인 수지 하그리브스는 CSAM의 확산을 제한하기 위해 생성적 AI 도구를 관리할 필요성을 강조했습니다.