샌프란시스코시, 인공지능을 이용해 여성과 소녀들의 나체 사진을 만든 웹사이트 16곳을 고소

샌프란시스코시는 성인은 물론 미성년자의 누드 사진을 인공지능으로 생성하여 유포하는 웹사이트 16곳을 상대로 소송을 제기한다고 발표했습니다. 

샌프란시스코 시 검찰청장 데이비드 치우의 트윗에 따르면, 이 웹사이트들은 실제 성인과 미성년자의 동의 없이 제작된 딥페이크 누드 사진을 유포하고 있었습니다. 치우 검찰청장은 해당 웹사이트 소유자와 운영자들이 딥페이크 음란물, 리벤지 음란물, 아동 음란물을 금지하는 주 및 연방법원을 위반했다고 언급 했습니다 .

에 따르면 뉴욕 타임스 보도, 이 웹사이트들을 운영하는 개인과 회사들은 캘리포니아, 뉴멕시코, 영국, 에스토니아에 기반을 두고 있습니다.

16개 웹사이트의 총 방문 횟수는 2억 회에 달했습니다

치우는 이 16개 웹사이트가 올해 상반기에 총 2억 회의 방문 횟수를 기록했다고 밝혔습니다. 이 웹사이트들 중 일부는 누드 이미지를 무료로 제작할 수 있도록 허용한 후 추가 이미지에 대해 요금을 부과했습니다. 심지어 암호화폐와 신용카드 결제까지 허용하는 웹사이트도 있었습니다.

시 검찰에 따르면 해당 웹사이트의 AI 모델은 실제 음란물과 아동 학대 이미지를 학습하여 AI가 생성한 딥페이크 이미지를 만들어냈다고 합니다. 심지어 이 웹사이트들은 은밀한 신체 부위의 사실적인 이미지를 단 몇 초 만에 생성하도록 훈련받기도 했습니다.

해당 웹사이트의 AI 모델은 심지어 테일러 스위프트의 딥페이크까지 만들어냈습니다

해당 웹사이트의 AI 모델은 테일러 스위프트와 같은 유명인부터 중학생 소녀에 이르기까지 실제와 매우 흡사한 누드 이미지를 만들어냈습니다. 어떤 경우에는 이러한 이미지가 피해자들을 모욕하고 괴롭히거나 심지어 금전을 갈취하는 데 사용되기도 했습니다.

피해자 어머니 중 한 명인 사라 아이젠버그는 "인터넷과 소셜 미디어에 아무리 능숙하고 자녀에게 온라인에서 자신을 보호하는 모든 방법을 가르친다고 해도, 누군가가 이러한 사이트를 이용해 정말 끔찍하고 해로운 짓을 저지르는 것을 막을 수는 없습니다."라고 말했습니다.

치우는 또한 일단 이미지가 유포되기 시작하면 출처를 trac하는 것이 거의 불가능하다고 언급했습니다. 이번 소송은 이러한 웹사이트들을 폐쇄하고 향후 인공지능으로 생성된 누드 이미지를 제작하지 못하도록 영구적으로 차단하는 것을 목표로 합니다.

인공지능은 전 세계적으로 다양한 측면에서 긍정적인 효과를 가져오지만, 치우는 딥페이크 음란물 문제가 인공지능의 어두운 면 중 하나라고 언급했습니다.