테드 크루즈, 텍사스주에서 AI 생성 복수 포르노그래피에 대한 신속 금지 법안 추진

의회가 회기 종료를 며칠 앞두고 있는 가운데, 텍사스주 상원의원 테드 크루즈(Ted Cruz)는 AI 생성 복수 포르노그래피를 범죄로 규정하는 법안 통과를 위한 마지막 순간의 노력을 기울이고 있습니다.

제안된 S.4569 법안은 딥페이크(deepfakes)를 겨냥합니다. 딥페이크는 동의 없이 누군가의 얼굴을 포르노그래피 이미지나 비디오에 합성하는 점점 더 인기 있는 기술입니다. 이 법안이 통과되면 웹사이트와 소셜 미디어 플랫폼은 피해자의 통지 후 48시간 이내에 해당 콘텐츠를 삭제해야 합니다.

이 법안은 양당 지원으로 민주당 상원의원 에이미 클로버처(Amy Klobuchar)가 공동 발의했으며, 12월 3일 상원에서 만장일치로 통과되었습니다. 이제 모든 이의 시선은 하원에 쏠려 있으며, 의원들은 동반 법안인 H.R. 8989를 승인할 수 있는 며칠 남지 않았습니다.

12월 11일 기자회견에서 크루즈는 “모든 피해자는 ‘그건 나야. 내 이미지인데, 너는 이 쓰레기를 세상에 내놓는 것에 대한 내 허락을 받지 못했어’라고 말할 권리가 있어야 한다”고 말했다.

기술 기업들이 법안을 지지하는 가운데 피해자들이 목소리를 높이다

AI로 변조된 이미지가 스냅챗에서 불처럼 퍼진 15세 소녀 엘리스턴 베리는 기자회견에서 자신의 악몽을 공유했다. 이벤트.

“그날 아침 일어났을 때, 저는 지금까지 느껴본 적 없는 최악의 감정을 느꼈습니다.”라고 그녀는 말하며, 가짜 이미지가 크루즈 사무국이 개입하여 삭제하기 전까지 9개월 동안 유포된 과정을 묘사했다. 그녀의 가족이 플랫폼 측의 조치를 이끌어내기 위해 수없이 노력했지만 모두 실패로 끝났다.

베리의 이야기는 uniques하지 않으며, 바로 그 문제가 있다. 딥페이크 포르노그래피가 폭발적으로 증가하면서 피해자들은 사생활을 되찾기 위해 애쓰고 있지만, 기술 기업들은 뒤처진 대응에 매달리고 있다.

베리의 어머니에게 크루즈 사무국에 연락하는 것은 전환점이 되었다. 주요 소셜 플랫폼이 콘텐츠를 삭제하도록 하려면 미국 상원의원의 직접적인 개입이 필요했다. 대부분의 피해자에게 그런 접근은 불가능하다.

구글, 메타, 마이크로소프트, 틱톡 등 주요 기술 기업들은 크루즈의 입법을 지지하고 있다. 이는 놀랍게 보일 수 있지만, 현실은 이들이 더 적극적으로 나서야 한다는 압박을 받고 있다는 것이다. 비판가들은 오랫동안 플랫폼들이 딥페이크 콘텐츠 삭제를 미루는 것을 지적해 왔다. 크루즈의 법안은 이들의 행동을 강제한다: 48시간, 변명 불가.

클로부차르 상원의원은 즉각적인 행동의 필요성을 강조했다. “이 작업은 미래를 구축하는 것이며, 우리가 살고 있는 새로운 환경의 도전에 맞서고, 더 이상 일어나지 않는다고 pretending하는 것이 아닙니다.”

누구도 무시할 수 없는 문제

AI는 딥페이크 제작을 놀라울 정도로 쉽게 만들었다. 한때 고급 기술과 자원이 필요했던 도구들은 이제 노트북과 인터넷 접근 권한만 있으면 누구나 사용할 수 있다. 온라인 딥페이크 콘텐츠의 98%가 포르노그래피라는 것은 우연이 아니다.

수치는 충격적이다. 올해 실종 및 착취 아동 국가 센터(NCMEC)는 경고 4,700 건의 AI 생성 아동 성학대 자료(CSAM) 사례를 보고했다.

이 기술은 인터넷의 가장 어두운 구석까지 파고든다. 최근 위스콘신주에서 42세 남성이 미성년자의 수천 장에 달하는 명시적 AI 이미지를 생성하고 유포한 혐의로 체포되었다. 또 다른 사례에서는 아동 정신과 의사가 실제 어린이의 변조된 이미지를 생성하기 위해 AI를 사용한 혐의로 40년형을 선고받았다.

딥페이크 포르노그래피는 미성년자에게만 국한되지 않는다. 유명인, 인플루언서, 일반인들이 놀라운 속도로 표적이 되고 있다. 공개된 이미지가 있거나—even—소셜 미디어 계정이 있는 사람이라면 누구나 피해자가 될 수 있다. 연방 법률이 부재한 상황에서 피해자는 거의 구제 수단이 없다.

AI는 점점 더 똑똑해지고 있다. 입법자들이 지금 행동하지 않으면 피해는 더욱 깊어질 것이다. 입법자들은 이를 명확히 알고 있다. 그리고 피해자들도 알고 있다. 이제 의회가 딥페이크 위기에 맞서 싸울지, 아니면 통제 불능 상태로 방치할지 결정할 차례다.