AI 딥페이크가 미국 당국의 아동 보호를 어렵게 만들고 있다 – 보고서

아동의 성적으로 노골적인 AI 딥페이크의 엄청난 양은 미국 법 집행 기관이 고통받는 실제 아이들과 가짜 아이들을 구분하는 것을 어렵게 만들고 있습니다. 검사들과 안전 단체들은 이미지가 너무 생생해서 실제 아동이 학대되었는지 여부를 알기가 어려워졌다고 경고합니다. 가디언 보고서에 따르면.

또한 읽기: ChatGPT 탑재 곰인형 Poe, 아이들에게 잠자리 이야기 읽어주기

미네소타주 기반 아동 안전 비영리 단체인 Zero Abuse Project의 수석 변호사 Kristina Korobov는 성적으로 학대되지 않은 실제 아동의 이미지가 AI를 사용하여 만들어졌다는 신고들이 눈에 띄기 시작했다고 말합니다. "하지만 지금은 그들의 얼굴이 학대당한 아동 위에 합성되어 있습니다."라고 그녀는 말합니다.

DoJ 검사는 "우리는 AI 때문에 '물에 잠겨 있다"고 말합니다.

"때때로 우리는 비디오나 이미지에서 배경이나 침구를 인식하거나, 가해자, 또는 그것이 속한 시리즈를 알 수 있지만, 이제는 다른 아이의 얼굴이 합성되어 있습니다."라고 Korobov는 가디언을 인용해 말했습니다.

AI 모델은 하루에 수천 장의 사진과 비디오를 생성할 수 있습니다. 보고서에 따르면, 이는 포식자들이 다크 웹과 메인스트림 인터넷에서 불쾌한 콘텐츠를 전달하기 위해 이 기술을 사용하는 것을 더 쉽게 만들었습니다.

당국에게는 이것이 악몽이 되었습니다. "법 집행 관점에서 볼 때, 아동에 대한 범죄는 자원이 가장 부족한 분야 중 하나이며, AI로부터의 콘텐츠 폭발이 있을 것입니다."라고 미국 법무부(DoJ) 검사는 말하며 덧붙였습니다.

"우리는 이미 이런 것들에 잠겨 있습니다."

미국 실종 및 학대 아동 국가 센터(NCMEC)는 2023년 온라인 아동 학대 신고가 12% 증가한 3,620만 건에 달했다고 밝혔습니다. 대부분의 신고는 성적으로 학대된 아동의 실제 사진과 비디오 유포와 관련이 있었지만, 센터는 또한 아동의 성 착취와 관련된 AI 딥페이크 이미지 또는 비디오 4,700건의 신고도 받았습니다.

NCMEC는 포식자들이 AI를 사용하는 가장 일반적인 방법 중 일부가 기존 온라인 이미지를 편집하여 성적으로 노골적으로 만드는 것이라고 밝혔습니다. 범죄자들은 또한 아동을 학대에 동원하는 방법에 대한 그래픽 지침을 제공하는 생성형 AI 채팅봇을 활용합니다.

현행 법은 AI 딥페이크에 대해 충분히 대응하지 못합니다.

범죄로 간주될 수 있는 것 사이에 격차가 있는 것으로 보입니다. 많은 관할 구역에서 아동을 성적으로 대상화하는 이미지를 소지하는 것은 범죄이지만, 법은 AI 생성 이미지를 통합하기 위해 아직 발전하지 못했습니다.

"연방 시스템에서 사건을 기소할 때," DoJ 검사는 "AI가 우리가 기소할 수 있는 것을 바꾸지는 않지만, 많은 주에서는 실제 아동임을 증명해야 합니다."라고 말했습니다. 검사는 덧붙였습니다.

"이미지의 정당성에 대해 시비거는 재판에서 문제를 일으킬 것입니다. 만약 제가 변호사라면, 그것이 바로 제가 주장할 내용일 것입니다."

법률이 제정되더라도 범죄자를 잡기 위한 기술이 여전히 필요하며, 현재 넓은 격차가 존재합니다. 아동 안전 단체들은 경찰서가 요청으로 넘쳐날 것이라고 경고합니다.

또한 읽기: UN 사무총장은 AI가 핵전쟁 가능성을 높인다고 경고합니다.

AI로 생성된 아동의 성적으로 노골적인 이미지는 2022년경 온라인에서 발자취를 늘리기 시작했으며, 이는 OpenAI의 ChatGPT 출시와 시기적으로 일치합니다. 가디언 보고서에 따르면

NCMEC는 AI 기업들이 착취적 콘텐츠의 생성과 확산을 방지하기 위해 충분히 노력하지 않았다고 비난합니다. 작년에는 단 5개의 AI 기업만 센터에 자발적으로 보고서를 제출했습니다. 비교하자면, 소셜 미디어 플랫폼의 70%가 보고서를 공유했다고 합니다.