호주 국회의원 조지 퍼셀은 최근 자신의 동의 없이 신체가 왜곡되고 옷 일부가 제거된 디지털 이미지가 유포된 사건에 대해 우려를 표명했습니다. 이 사건dent 통제되지 않은 인공지능 기술이 초래할 수 있는 성차별적이고 차별적인 결과를 보여줍니다.
일상생활에서 흔히 사용하기에는 간단해 보이는 AI 기반 도구들이 의도치 않게 사회적 편견을 영속화할 수 있습니다. 사진 편집을 지시받았을 때, 이러한 도구들은 특히 여성 이미지에서 두드러지게 나타나는 젊음이나 성적 매력과 같은 사회적으로 용인되는 특정 속성을 강화할 수 있습니다.
성적으로 왜곡된 딥페이크 콘텐츠의 확산은 심각한 우려를 낳고 있으며, 특히 여성을 표적으로 삼는 경우가 많습니다. 보고서에 따르면 딥페이크 영상의 90~95%가 동의 없이 제작된 음란물이며, 그중 약 90%가 여성을 피해자로 묘사하고 있습니다. 동의 없이 제작된 성적인 딥페이크 이미지가 전 세계적으로 유포되면서 젊은 여성부터 테일러 스위프트와 같은 유명인에 이르기까지 다양한 계층의 사람들에게 영향을 미치고 있습니다.
전 세계적인 행동의 필요성
일부 지역에서는 성적 대상화된 딥페이크 영상의 동의 없는 공유를 다루기 위한 법적 조치가 존재하지만, 딥페이크 영상 제작에 관한 법률은 특히 미국에서 일관성이 부족합니다. 통일된 국제적 규정의 부재는 이 문제를 효과적으로 해결하기 위한 전 세계적인 공동 대응의 필요성을 강조합니다.
인공지능이 생성한 콘텐츠를 탐지하려는 노력은 기술 발전과 성적으로 노골적인 콘텐츠 제작을 용이하게 하는 앱의 증가로 인해 어려움을 겪고 있습니다. 그러나 기술 자체를 탓하는 것은 기술 개발자와 디지털 플랫폼이 사용자 안전과 권리를 우선시해야 할 책임을 간과하는 것입니다.
호주는 eSafety Commissioner 사무국 설립 및 디지털 플랫폼이 동의 없는 콘텐츠를 예방하고 삭제할 책임을 지도록 하는 국가 법률 제정 등 관련 분야에서 선도적인 조치를 취해왔습니다. 그러나 동의 없는 성적 딥페이크 콘텐츠의 피해를 효과적으로 줄이기 위해서는 보다 광범위한 국제적 협력과 적극적인 조치가 필수적입니다.
인공지능(AI)을 이용한 이미지 편집의 무분별한 사용과 성적으로 왜곡된 딥페이크 콘텐츠의 확산은 심각한 문제를 야기하며, 포괄적인 규제 체계와 국제적인 공동 대응을 필요로 합니다. 기술 개발 및 시행 과정에서 사용자 안전과 권리를 최우선으로 고려함으로써, 사회는 AI 기반 악용으로 인한 성폭력 피해를 줄이기 위해 노력할 수 있습니다.
