인공지능 기반 '누드화' 앱, 인기 급상승…우려 제기

최근 연구에 따르면 인공지능(AI)을 이용해 사진 속 여성의 옷을 벗기는 앱과 웹사이트가 상당한 인기를 얻고 있는 우려스러운 추세가 나타나고 있습니다. 흔히 "누드화" 서비스라고 불리는 이러한 애플리케이션은 사생활, 윤리, 그리고 동의와 관련된 심각한 문제들을 야기하고 있습니다.

인기 급상승

소셜 네트워크 분석 회사인 그래피카(Graphika)의 보고에 따르면, 9월 한 달 동안에만 약 2400만 명이 이러한 나체 이미지 웹사이트를 방문했습니다. 이러한 서비스들은 대부분 인기 소셜 네트워크를 통해 홍보되고 있으며, 연구원들에 따르면 X와 레딧(Reddit) 같은 플랫폼에서 나체 이미지 앱 광고 링크 수가 올해 초 대비 2400% 이상 급증했습니다. 이러한 앱들의 핵심 기능은 인공지능(AI)을 사용하여 이미지를 조작하고, 대상의 가상 나체 이미지를 생성하는 것입니다. 특히 이러한 서비스의 대부분은 여성을 주요 대상으로 한다는 점에 유의해야 합니다.

윤리적 및 법적 딜레마

이러한 AI 기반 앱들은 AI 기술의 발전으로 인해 비동의적 음란물이 확산되는 심각한 문제의 일부이며, 이는 딥페이크 음란물의 증가로 이어집니다. 딥페이크 음란물은 일반적으로 영상이나 이미지와 같은 조작된 미디어를 제작하는 것을 포함하며, 이러한 조작은 종종 피사체의 동의나 인지 없이 이루어집니다. 이러한 이미지는 소셜 미디어 플랫폼에서 가져와 피사체의 통제나 인지 없이 유포되는 경우가 많아 심각한 윤리적, 법적 문제를 야기합니다.

온라인 괴롭힘 및 개인정보 침해

일부 앱과 서비스가 비동의적 행위와 괴롭힘을 조장한다는 우려가 커지고 있습니다. 예를 들어, 한 누드 앱 홍보 이미지(X에 게시됨)는 사용자가 누드 이미지를 생성하여 디지털로 탈의된 대상에게 보낼 수 있음을 암시하며 괴롭힘과 학대를 부추겼습니다. 더욱이, 이러한 앱 중 일부는 구글의 유튜브 플랫폼에서 유료 광고를 게재하여 "누드화"와 같은 검색어에 대한 검색 결과에 상위에 노출되고 있습니다. 그러나 구글은 성적으로 노골적인 콘텐츠를 포함하는 광고를 허용하지 않으며, 위반 광고를 적극적으로 삭제하고 있다고 밝혔습니다. 현재까지 X와 레딧 모두 논평 요청에 응답하지 않았습니다.

딥페이크 확산

유명인을 대상으로 한 비동의 음란물은 인터넷상에서 오랫동안 문제가 되어 왔습니다. 그러나 사생활 전문가들은 인공지능 기술의 발전으로 딥페이크 소프트웨어의 접근성과 효율성이 높아진 것에 대해 점점 더 우려하고 있습니다. 이러한 도구는 이제 악의적인 행위자뿐만 아니라 고등학생과dent을 포함한 일반인들도 무방비 상태의 피해자를 표적으로 삼는 데 사용되고 있습니다.

딥페이크 문제 해결의 과제

딥페이크 음란물 문제를 해결하는 데에는 상당한 어려움이 있습니다. 미성년자를 대상으로 한 딥페이크 콘텐츠 제작을 금지하는 법률은 있지만, 현재 미국에는 성인을 대상으로 한 딥페이크 음란물 제작을 구체적으로 금지하는 연방법상 법률이 없습니다. 법 집행 기관은 이러한 사건을 수사하는 데 어려움을 겪는 경우가 많으며, 피해자들은 법적 조치를 위한 자금을 확보하는 데 어려움을 겪을 수 있습니다.

주목할 만한 사건으로, 노스캐롤라이나주의 한 소아 정신과 의사가 환자 사진에 탈의 앱을 사용한 혐의로 지난 11월 40년형을 선고받았습니다. 이는 딥페이크 아동 성착취물 제작을 금지하는 법률에 따라 기소된 첫 번째 사례입니다.

플랫폼 응답

우려가 커짐에 따라 소셜 미디어 플랫폼들이 조치를 취했습니다. 예를 들어 틱톡은 이러한 서비스와 흔히 연관되는 키워드인 "옷을 벗다(undress)"를 차단했습니다. 사용자가 이 용어를 검색하면 플랫폼 가이드라인을 위반하는 행위나 콘텐츠와 관련될 수 있다는 경고 메시지가 표시됩니다. 마찬가지로 페이스북의 모회사인 메타 플랫폼(Meta Platforms Inc.)도 옷을 벗는 앱을 검색하는 데 사용되는 키워드를 차단하기 시작했습니다. 그러나 두 회사 모두 이 문제에 대해 더 이상의 언급은 거부했습니다.

법적 및 윤리적 고려 사항

인공지능 기반 ‘누드화’ 앱의 등장은 딥페이크 음란물 및 인공지능을 통해 생성된 비동의 콘텐츠와 관련된 법적, 윤리적 문제 해결의 시급성을 보여줍니다. 기술이 계속 발전함에 따라, 개인을 괴롭힘, 사생활 침해, 그리고 유해한 목적으로 인공지능이 오용되는 것을 막기 위한 규제와 안전장치가 마련되어야 합니다.

결론적으로, 동의 없이 딥페이크 누드 이미지를 생성할 수 있는 AI 기반 앱의 확산은 우려스러운 추세이며, 디지털 시대의 윤리적, 법적, 개인정보 보호 문제를 시급히 다뤄야 함을 보여줍니다. 기술이 발전함에 따라 입법자와 기술 기업 모두 악의적인 목적으로 AI가 오용되는 것을 막고 개인을 잠재적인 피해로부터 보호하기 위해 선제적인 조치를 취해야 합니다