테드 크루즈, 텍사스에서 AI로 생성된 복수 포르노에 대한trac금지 조치 추진

의회 회기 종료가 며칠 앞으로 다가온 가운데, 텍사스주 상원의원 테드 크루즈는 인공지능으로 제작된 복수 포르노를 범죄화하는 법안 통과를 위해 막판 총력전을 펼치고 있다.

S.4569 법안은 딥페이크 기술을 겨냥하고 있습니다. 딥페이크는 동의 없이 타인의 얼굴을 음란 이미지나 동영상에 합성하는 기술로, 최근 점점 더 널리 사용되고 있습니다. 이 법안이 통과되면 웹사이트와 소셜 미디어 플랫폼은 피해자의 신고를 받은 후 48시간 이내에 해당 콘텐츠를 삭제해야 합니다.

이 법안은 민주당 소속 에이미 클로부차르 상원의원이 공동 발의하는 등 초당적인 지지를 받고 있으며, 12월 3일 상원에서 만장일치로 통과되었습니다. 이제 모든 시선은 하원에 쏠려 있으며, 하원 의원들은 관련 법안인 HR 8989를 승인할 기한이 며칠 남지 않았습니다.

크루즈는 12월 11일 기자회견에서 "모든 피해자는 '저게 바로 나야. 저건 내 모습이고, 당신은 이런 쓰레기 같은 사진을 퍼뜨릴 권리가 없어'라고 말할 권리가 있어야 한다"고 말했다

피해자들이 목소리를 높이는 가운데, IT 기업들은 해당 법안을 지지하고 있다

인공지능으로 변형된 이미지가 스냅챗에서 순식간에 퍼져나간 15세 소녀 엘리스턴 베리는 기자 회견.

"그날 아침에 눈을 떴을 때, 제 인생에서 가장 끔찍한 기분 중 하나였어요." 그녀는 크루즈 의원실이 개입해 이미지를 삭제하기 전까지 가짜 이미지가 9개월 동안 유포되었던 상황을 설명하며 이렇게 말했다. 그녀의 가족은 플랫폼 업체들이 조치를 취하도록 수없이 노력했지만 모두 허사였다.

베리의 이야기는 드문 일이 아니며, 바로 그 점이 문제입니다. 딥페이크 음란물이 급증하면서 피해자들은 사생활을 되찾기 위해 발버둥 치고 있고, 기술 기업들은 뒤늦게 따라잡으려 애쓰고 있습니다.

베리의 어머니에게 크루즈 의원 사무실에 연락한 것은 전환점이었습니다. 미국 상원의원의 직접적인 개입 덕분에 주요 소셜 플랫폼에서 해당 콘텐츠를 삭제할 수 있었습니다. 하지만 대부분의 피해자에게는 그런 접근이 불가능합니다.

구글, 메타, 마이크로소프트, 틱톡 등 거대 기술 기업들이 크루즈 의원의 법안을 지지하고 있습니다. 이는 다소 의외일 수 있지만, 실제로는 이들이 딥페이크 콘텐츠 삭제에 나서야 한다는 압박을 받고 있기 때문입니다. 비평가들은 오랫동안 플랫폼 기업들이 딥페이크 콘텐츠 삭제에 미온적인 태도를 보인다고 비판해 왔습니다. 크루즈 의원의 법안은 이들 기업들에게 48시간 이내에 어떠한 변명도 없이 조치를 취하도록 강제하고 있습니다.

클로부처 상원의원은 지금 당장 행동해야 할 필요성을 강조했습니다. "이 일은 미래를 건설하는 것이고, 우리가 살고 있는 새로운 환경의 도전에 맞서는 것이지, 더 이상 그런 일이 일어나지 않는 척하는 것이 아닙니다."

누구도 외면할 수 없는 문제

인공지능(AI) 덕분에 딥페이크 제작이 놀라울 정도로 쉬워졌습니다. 한때 고급 기술과 자원이 필요했던 도구들이 이제는 노트북과 인터넷만 있으면 누구나 사용할 수 있게 되었습니다. 온라인에 있는 딥페이크 콘텐츠의 98%가 음란물이라는 사실은 결코 우연이 아닙니다.

그 수치는 충격적입니다. 올해 미국 실종아동착취방지센터(NCMEC)는 인공지능 적발했습니다 (AI)이 생성한 아동 성착취물(CSAM) 사례를 4,700건

이 기술은 인터넷의 가장 어두운 구석에도 악용되고 있습니다. 최근 위스콘신에서는 42세 남성이 미성년자의 음란한 AI 이미지를 수천 장 제작 및 배포한 혐의로 체포되었습니다. 또 다른 사례에서는 아동 정신과 의사가 AI를 이용해 실제 아동의 이미지를 변형시킨 혐의로 40년형을 선고받았습니다.

딥페이크 음란물은 미성년자에게만 국한되지 않습니다. 유명인, 인플루언서, 그리고 일반인까지 놀라운 속도로 표적이 되고 있습니다. 공인이거나 소셜 미디어 계정을 가진 사람이라면 누구든 피해자가 될 수 있습니다. 연방 차원의 법률이 마련되어 있지 않아 피해자들은 마땅한 구제책이 없습니다.

인공지능은 점점 더 똑똑해지고 있습니다. 만약 입법자들이 지금 행동하지 않는다면, 피해는 더욱 심화될 것입니다. 입법자들은 분명히 이 사실을 알고 있습니다. 피해자들도 마찬가지입니다. 이제 의회가 나서서 맞서 싸울 것인지, 아니면 딥페이크 사태가 통제되지 않고 확산되도록 내버려 둘 것인지 결정해야 합니다.