AI 기반 '누디파이' 앱의 인기 급증과 우려

최근 연구에 따르면, 사진 속 여성을 벗기는 인공지능(AI)을 활용하는 앱과 웹사이트가 상당한 인기를 얻으면서 disturbing한 트렌드가 나타나고 있습니다. 이러한 애플리케이션은 종종 '누디파이' 서비스라고 불리며, 사생활, 윤리, 동의에 대한 심각한 우려를 제기하고 있습니다.

급증하는 인기

소셜 네트워크 분석 회사인 Graphika의 보고서에 따르면, 9월 한 달 동안 약 2,400만 명의 사람들이 이러한 탈의 웹사이트를 방문했습니다. 이러한 서비스의 많은 부분이 인기 있는 소셜 네트워크를 통해 마케팅되고 있으며, X와 Reddit과 같은 플랫폼에서 탈의 앱을 광고하는 링크의 수는 올해 초부터 2,400% 이상 급증했습니다. 이러한 앱의 핵심 기능은 AI를 사용하여 이미지를 조작하고 피사체의 가상의 누드 버전을 생성하는 것입니다. 대부분의 이러한 서비스가 여성만을 대상으로 한다는 점에 유의하는 것이 중요합니다.

윤리적 및 법적 딜레마

이러한 AI 기반 앱은 AI 기술의 발전으로 촉진된 비동의 포르노그래피와 관련된 disturbing한 트렌드의 일부로, 딥페이크 포르노그래피의 확산으로 이어집니다. 딥페이크 포르노그래피는 일반적으로 피사체의 지식이나 동의 없이 제작된 비디오나 이미지와 같은 가짜 미디어를 포함합니다. 이러한 이미지는 종종 소셜 미디어 플랫폼에서 출처를 얻어 피사체의 통제나 인식 없이 배포되며, 심각한 윤리적 및 법적 도전을 제시합니다.

온라인 괴롭힘 및 사생활 침해

일부 앱과 서비스가 비동의 행동과 괴롭힘을 조장하면서 우려가 고조되고 있습니다. 예를 들어, X에 게시된 한 이미지는 탈의 앱을 홍보하며 고객이 누드 이미지를 생성하여 디지털로 벗겨진 피사체에게 보낼 수 있다고 제안하여 괴롭힘과 학대를 조장했습니다. 또한, 이러한 앱 중 일부는 Google의 YouTube 플랫폼에서 스폰서 콘텐츠를 구매하여 'nudify'와 같은 용어에 대한 검색 결과에서 두드러지게 나타났습니다. 그러나 Google은 성적으로 노골적인 콘텐츠를 포함하는 광고를 허용하지 않으며 위반 광고를 적극적으로 제거하고 있다고 밝혔습니다. 현재까지 X나 Reddit은 코멘트 요청에 응답하지 않았습니다.

딥페이크 확산

공인 인물을 대상으로 한 비동의 포르노그래피는 인터넷에서 오랫동안 존재해 온 문제였습니다. 그러나 사생활 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 접근하기 쉽고 효과적이 되어 점점 더 경계하고 있습니다. 이러한 도구는 이제 악의적인 행위자들뿐만 아니라 고등학교 및 대학 학생들을 포함한 일반 개인들도 무고한 피해자를 대상으로 사용하기 위해 활용하고 있습니다.

딥페이크 대응의 어려움

딥페이크 포르노그래피 문제를 해결하는 것은 상당한 도전을 제시합니다. 미성년자를 대상으로 한 콘텐츠 생성을 금지하는 법률은 존재하지만, 성인을 대상으로 한 딥페이크 포르노그래피 생성을 특별히 금지하는 연방법은 현재 미국에 없습니다. 법 집행 기관은 이러한 사건을 조사하는 데 어려움을 겪는 경우가 많으며, 피해자들은 법적 조치를 위한 자금을 확보하는 데 어려움을 겪을 수 있습니다.

주목할 만한 발전으로, 노스캐롤라이나의 한 소아정신과 의사는 11월에 환자 사진에 탈의 앱을 사용한 혐의로 40년 형을 선고받았습니다. 이는 딥페이크 아동 성학대 자료 생성을 금지하는 법률 하에서 이러한 유형의 첫 번째 기소였습니다.

플랫폼의 대응

증가하는 우려에 대응하여 소셜 미디어 플랫폼들이 조치를 취했습니다. 예를 들어, TikTok은 이러한 서비스와 일반적으로 연관된 키워드 'undress'를 차단했습니다. 사용자가 이 용어를 검색하면 플랫폼의 가이드라인을 위반하는 행동이나 콘텐츠와 관련될 수 있다는 경고가 표시됩니다. 마찬가지로 Facebook의 모회사인 Meta Platforms Inc.도 탈의 앱 검색과 관련된 키워드를 차단하기 시작했습니다. 그러나 두 회사 모두 이 건에 대해 추가적인 코멘트를 제공하기를 거부했습니다.

법적 및 윤리적 고려 사항

AI 기반 '누디파이' 앱의 부상은 딥페이크 포르노그래피와 AI를 통해 생성된 비동의 콘텐츠 surrounding 법적 및 윤리적 고려사항을 해결할 시급한 필요성을 강조합니다. 기술이 계속 발전함에 따라 괴롭힘, 사생활 침해 및 해로운 목적으로의 AI 오용으로부터 개인을 보호하기 위해 규제 및 안전 장치가 마련되어야 합니다.

결론적으로, 비동의 딥페이크 누드를 생성할 수 있는 AI 기반 앱의 확산은 디지털 시대의 윤리적, 법적 및 사생활 문제를 해결할 시급성을 강조하는 우려스러운 트렌드입니다. 기술이 진화함에 따라 입법자와 기술 기업 모두 악의적인 목적으로의 AI 오용을 방지하고 개인을 잠재적 피해로부터 보호하기 위해 선제적인 조치를 취해야 합니다.