AI의 성별 기반 피해: 동의 없는 이미지 변조로부터 보호하기

호주 의회 의원 조지 퍼셀은 최근 동의 없이 그녀의 몸을 왜곡하고 옷의 일부를 제거한 디지털로 변조된 이미지에 대해 우려를 표명했다. 이 사건은 통제되지 않는 AI 기술이 가져올 수 있는 성차별적이고 차별적인 결과를 조명한다.

일상적인 사용에서는 간단하다고 간주되지만, AI 보조 도구는 우연히 사회적 편견을 고착시킬 수 있다. 사진 편집을 지시할 때, 이러한 도구는 특히 여성 이미지에 흔한 젊음과 성적 대상화 같은 사회적 승인된 속성을 강화할 수 있다.

성적으로 노골적인 딥페이크 콘텐츠의 확산과 관련하여 상당한 우려가 제기된다. 보고서에 따르면, 딥페이크 비디오의 놀라운 90~95%가 동의 없는 포르노그래피이며, 그중 약 90%가 여성을 피해자로 포함한다. 성적으로 노골적인 딥페이크 이미지의 동의 없는 생성과 공유 사례가 전 세계적으로 나타나며, 젊은 여성과 테일러 스위프트 같은 유명인을 포함한 다양한 인구 통계학적 집단에 영향을 미치고 있다.

글로벌 차원의 행동 필요성

일부 지역에서는 성적으로 노골적인 딥페이크의 동의 없는 공유를 다루기 위한 입법 조치가 존재하지만, 그 생성에 관한 법률은 특히 미국에서 일관성이 부족하다. 조화로운 국제 규제의 부재는 이 문제를 효과적으로 다루기 위한 집단적 글로벌 행동의 필요성을 강조한다.

AI 생성 콘텐츠 탐지 노력은 발전하는 기술과 성적으로 노골적인 콘텐츠 생성을 용이하게 하는 앱의 증가하는 가용성으로 인해 어려움을 겪고 있다. 그러나 기술에만 전적으로 책임을 지우는 것은 기술 개발자와 디지털 플랫폼이 사용자 안전과 권리를 우선시할 책임을 간과하는 것이다.

호주는 이 분야에서 선도적인 역할을 하기 위해 eSafety Commissioner 사무소와 디지털 플랫폼이 동의 없는 콘텐츠의 예방 및 제거에 대해 책임을 지도록 하는 국가 법률과 같은 이니셔티브를 통해 조치를 취했다. 그러나 동의 없는 성적으로 노골적인 딥페이크의 피해를 효과적으로 완화하기 위해서는 더 광범위한 글로벌 협력과 선제적 조치가 필수적이다.

이미지 편집에서 통제되지 않는 AI 사용과 성적으로 노골적인 딥페이크 콘텐츠의 확산은 포괄적인 규제 프레임워크와 집단적 글로벌 행동을 필요로 하는 상당한 과제를 제기한다. 기술 개발과 집행에서 사용자 안전과 권리를 우선시함으로써, 사회는 AI 기반 남용과 관련된 성별 기반 피해를 완화하기 위해 노력할 수 있다.