샌프란시스코 시 검찰, AI 기반 딥페이크 누드 웹사이트 폐쇄를 위한 소송 제기

샌프란시스코 시 검찰청장 데이비드 치우는 인공지능(AI)을 이용해 여성과 소녀의 동의 없이 딥페이크 누드 이미지를 제작 및 유포하는 웹사이트 16곳을 상대로 소송을 제기했다고 발표했습니다. 이는 AI를 이용한 동의 없는 이미지 제작 및 유포에 대한 관심이 고조되는 가운데 나온 조치입니다.

치우에 따르면 이번 소송은 샌프란시스코에서 처음으로 제기된 소송으로, 웹사이트 운영자들이 딥페이크 음란물, 아동 음란물, 복수 음란물을 금지하는 주 및 연방법과 캘리포니아주의 불공정 경쟁법을 위반했다고 주장합니다.

치우는 이러한 잘못된 관행에 대해 경각심을 일깨우고 싶어합니다

에 따르면 뉴욕 타임스, 이 계획은 수석 부변호사 이본느 메레의 아이디어였으며, 그녀는 동료들을 설득하여 16개 웹사이트 폐쇄를 목표로 소송을 제기했습니다.

목요일에 공개된 소송장 사본에서는 해당 웹사이트들의 이름이 검열 처리되었다.

검찰은 아직 대부분의 웹사이트 소유자를 파악dent밝혔지만, 관계자들은 사이트 소유자의 이름을 찾아내 책임을 물을 수 있을 것이라는 낙관적인 전망을 내비쳤습니다.

에서 기자회견 해당 사이트들이 동의 없이 제작된 "음란물"을 생산한다고 밝혔습니다. 그는 이러한 "성적 학대"의 형태를 경각심을 일깨우고 근절하는 것 외에도, 소송을 통해 해당 웹사이트들을 폐쇄해야 한다고 시사했습니다.

"이번 조사를 통해 우리는 인터넷의 가장 어두운 구석까지 파헤쳐 보았고, 이러한 착취를 견뎌야 했던 여성과 소녀들을 생각하면 정말 끔찍한 기분이 듭니다."

치우.

해당 웹사이트에서는 사용자들이 옷을 입은 실제 사람들의 사진을 업로드하고, 인공지능(AI)을 이용하여 나체 여성과 소녀의 이미지를 생성합니다. 이 사이트들의 AI 모델은 실제 음란물과 아동 학대 사진을 학습하여 딥페이크를 제작하도록 만들어졌습니다.

소송에서 드러난 바와 같이, 해당 사이트 중 하나는 이미지의 비동의적 성격을 조장하며, 라고 주장 합니다.

오픈 소스 AI 모델의 가용성과 접근성이 향상됨에 따라 누구나 AI 기반 엔진을 쉽게 활용하고 자신의 목적에 맞게 수정할 수 있게 되었습니다. 그 결과, 딥페이크 누드 이미지를 처음부터 생성하거나 기존 사진을 사실적으로 누드화하는 웹사이트와 앱이 등장했으며, 이러한 서비스는 대개 유료로 제공됩니다.

샌프란시스코만이 이러한 문제를 목격하는 유일한 곳은 아닙니다

지난 1월, 테일러 스위프트의 가짜 누드 사진이 온라인에 퍼지면서 딥페이크 앱이 큰 화제가 되었습니다. 하지만 스위프트 이전과 이후에도 훨씬 덜 유명한 많은 사람들이 박해를 받았습니다.

치우는 "이러한 이미지의 확산으로 유명인부터 중학생에 이르기까지 전dent으로 수많은 여성과 소녀들이 착취당했다"고 인정했습니다.

시 검찰청은 자체 조사를 통해 해당 웹사이트들이 올해 상반기 6개월 동안 2억 회 이상 방문된 사실을 확인했습니다. 검찰청은 이미지가 온라인에 유포되면 피해자들이 자신의 사진을 나체로 변환하는 데 사용된 웹사이트를 파악하기 어려워진다는 점에 우려를 표명했습니다.

이는 이미지에 웹사이트를 특정할 수 있는 고유한 특징이나dent표시가 없기 때문입니다. 또한 피해자들이 인터넷에서 사진을 삭제하기 어렵다는 점도 문제이며, 이는steem 과 디지털 발자국에 악영향을 미칩니다.

올해 초, 베벌리힐스의 한 중학교 2학년 학생 16명의 여학생의 얼굴을 인공지능으로 생성된 몸에 합성한 딥페이크 나체 이미지를 제작하고 공유한 혐의로 퇴학당했습니다.

캘리포니아, 뉴저지, 워싱턴의 다른 학교에서도 유사한 사례가 관찰되었으며, 해당 이미지들은 여성과 소녀들을 모욕하고 괴롭히고 위협하는 데 사용되었습니다.

검찰 측은 피해자들이 겪는 전반적인 영향은 명예 훼손, 정신 건강 악화,steem상실이며, 심지어 자살 충동에 이르는 경우도 있다고 밝혔습니다.