- IWF 는 생성형 AI 도구가 더 널리 이용 가능하고 정교해짐에 따라 AI 로 생성된 CSAM 이 증가할 위험이 있다고 경고했습니다.
- IWF 는 이미 2024 년에 제작된 CSAM 이 2023 년보다 “더 현실적”이라고 지적했습니다.
- 감시 기관은 이제 CSAM 의 제작과 유포를 범죄로 규정하는 법안을 추진하고 있습니다.
인터넷 감시 재단(IWF)은 AI 도구 발전에 힘입어 인터넷상의 AI 생성 아동 성학대 자료(CSAM)의 유통이 계속 증가할 수 있다고 우려하고 있습니다.
또한 읽기: AI 딥페이크가 미국 당국의 아동 보호를 어렵게 만들고 있다 – 보고서
안전 감독 기관은 생성형 AI 도구가 정교해짐에 따라 실제 이미지나 비디오와 가짜 AI 생성 콘텐츠를 구분하는 것이 어려워졌다고 밝혔습니다. 이 조직에 따르면 2024년에 생성된 AI 사진은 2023년에 처음 등장한 것보다 더 “현실적”해졌습니다.
인터넷 감시 재단, CSAM 증가 전망
IWF는 더 많은 AI 생성 CSAM이 인터넷에 유입될 것을 우려합니다 범죄자들이 AI 기술의 발전을 이용해 도구를 더 쉽게 사용하고 널리 퍼뜨리고 있기 때문입니다. 안전 감독 기관은 이미 인터넷상의 AI 생성 CSAM 증가를 주목했습니다.
이 조직은 이미 CSAM 조작 사례를 확인했으며, 다른 사례에서는 아동의 얼굴이 기존 CSAM 비디오나 성인 포르노그래피 영상에 사용되었습니다. IWF에 따르면 일부 콘텐츠는 약 20초 길이의 비디오였습니다.
IWF의 수석 기술 책임자 Dan Sexton은 AI 비디오 도구가 AI 이미지 생성 도구의 추세를 따를 경우 더 많은 AI CSAM이 등장할 가능성이 있다고 밝혔습니다. 기술이 빠른 속도로 발전하고 있기 때문입니다.
“추세가 동일하게 따른다면 더 많은 비디오를 보게 될 것이라고 잠정적으로 말하고 싶습니다.”라고 그는 말했습니다.
Sexton은 향후 AI 비디오가 “더 높은 품질과 현실성”을 가질 가능성이 높다고 덧붙였습니다.
IWF 분석가에 따르면,pedophiles가 다크 포럼에서 검토한 비디오의 대부분은 부분 딥페이크였습니다. 이 경우 온라인에서 자유롭게 사용할 수 있는 AI 모델이 기존 CSAM 비디오와 성인 포르노그래피, 그리고 알려진 CSAM 피해자의 이미지를 조작하는 데 사용되었습니다.
이 조직은 이러한 비디오 9개를 발견했으며, 소수의 완전 AI 제작 비디오는 기본 품질이었습니다.
(1/4) #AI 아동 성학대 자료(CSAM) 현황 – 작년, 우리는 현실적인 #AI 생성 아동 성학대 이미지의 확산에 대해 경고를 제기한 첫 번째 기관 중 하나였습니다… pic.twitter.com/s4igkjHH78
— 인터넷 감시 재단(IWF) (@IWFhotline) 2024년 7월 22일
감독 기관, CSAM 생산의 형사화 촉구
IWF는 이제 이러한 자료의 생산을 형사화하는 법률을 추진하고 있으며, 이러한 콘텐츠를 만드는 가이드 제작도 포함됩니다. 또한 CSAM 생성을 가능하게 하는 도구와 플랫폼의 개발도 형사화되어야 합니다.
이는 올해 단일 다크 웹 포럼을 대상으로 한 연구에서 한 달 동안 12,000개의 새로운 AI 생성 이미지가 게시된 것으로 드러난 것과 맞물린 것입니다.
IWF에 따르면 그 이미지 중 10개 중 9개가 현실적이었으며, 이는 실제 CSAM을 다루는 동일한 영국 법률에 따라 기소될 수 있습니다.
또한 읽기: 텍사스 남성, 암호화폐로 아동 포르노그래피 구매 혐의로 유죄 판결
작년, 실종 및 학대 아동 국가 센터(NCMEC)는 AI를 다양한 방식으로 사용하는 범죄자들이 텍스트 프롬프트를 입력하여 아동 학대 이미지를 생성하는 등 수많은 보고를 받았다고 밝혔습니다. 일부 사례에서는 범죄자들이 이전에 업로드된 이미지를 수정하여 성적으로 명시적이고 학대적인 내용으로 만들었습니다.
IWF의 CEO Susie Hargreaves는 CSAM의 확산을 제한하기 위해 생성형 AI 도구를 규제할 필요성을 강조했습니다.
“적절한 통제 없이 생성형 AI 도구는 온라인 범죄자들이 가장 음란하고 혐오스러운 환상을 실현할 수 있는 놀이터를 제공합니다.”라고 Hargreaves는 말했습니다.
Hargreaves는 IWF가 상업적 아동 성학대 사이트에서 CSAM이 더 많이 공유되고 판매되기 시작했다고 덧붙였습니다.
가디언에 따르면, 학대 신고 핫라인을 운영하는 또 다른 조직은 범죄자들이 온라인 플랫폼에서 AI 제작 CSAM을 판매하는 것을 발견했다고 밝혔습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Enacy Mapakame
Enacy Mapakame 은 비즈니스 및 금융 뉴스 분야에서 10 년 이상의 경력을 가진 저널리스트입니다. 그녀는 자본 시장과 메타버스, AI, 암호화폐 등 신기술을 다루고 있습니다. Enacy 는 미디어와 사회 연구 학사 (우등) 학위를 보유하고 있습니다.
