애플, 동의 없는 누드 이미지 홍보 앱 스토어에서 삭제

지난달, IT 대기업 애플은 과감한 조치를 취해 세 가지 앱을 삭제했습니다 . 이 앱들은 인공지능(AI)에 사용되는 머신러닝 도구를 악용하여 사용자의 동의 없이 불법적인 이미지를 생성하려 시도했습니다. 이러한 결정은 해당 앱들이 인스타그램이나 음란 웹사이트 등에서 허위 광고를 했다는 우려에 따른 것입니다.

광고 오해 사례 

이 광고를 클릭하는 사람들은 애플 앱스토어로 이동하게 되는데, 해당 앱은 "예술 작품 생성기"로 설명되어 있지만 나체 이미지를 생성할 수 있다는 언급은 전혀 없습니다. 이는 2022년에 처음dent된 모바일 앱스토어의 오랜 허점입니다.

인공지능 기반 알고리즘을 사용하는 해당 앱들은 사진 속 인물의 옷을 벗긴 것처럼 가장하여, 피사체의 허락이나 동의 없이 나체 상태로 잘못 판단하는 행위를 저질렀습니다. 이러한 행위는 사생활 침해일 뿐만 아니라 착취, 괴롭힘, 협박으로 이어질 가능성도 있습니다. 

다양한 AI 생성 여성 이미지를 사용한 이와 유사한 광고들이 4월 10일부터 4월 20일 사이에 페이스북, 인스타그램, 페이스북 메신저 및 메타의 앱 내 광고 네트워크에 게재되었습니다.

이러한 사기성 앱에 대한 제보를 받은 애플은 실제로 앱스토어에서 해당 앱들을 가장 먼저 삭제했습니다. 앱 개발자들은 무죄를 주장했지만, 앱들이 드러난 진짜 의도 때문에 애플은 앱들을 삭제하고 커뮤니티 가이드라인을 준수할 수밖에 없었습니다. 이는 모두를 위한 안전하고 성 중립적인 디지털 공간을 만들고자 하는 애플의 확고한 의지를 분명히 보여줍니다.

지속적인 과제와 책임

애플이 취한 대응 조치는 존중받아 마땅하지만, 이번dent결국 앱 심사 및 광고 방식 모니터링 시스템에 대한 의구심을 불러일으킵니다. 이러한 앱들이 앱스토어에서 오랫동안 적발되지 않고 존재해왔다는 사실은, 사기성 앱을 적발하고 제거하기 위한 더욱 철저한 주의와 적극적인 조치가 필요함을 강조합니다.

게다가 개발자들은 애플과 구글의 탐지를 피하기 위해 성인 사이트에서 불법 기능을 교묘하게 홍보하는 수법을 사용했습니다. 이러한 사례들은 기술 기업들이 자사 플랫폼을 관리하고 커뮤니티 가이드라인을 시행하는 데 직면하는 문제점을 보여줍니다.

애플이 2023년 세계 개발자 컨퍼런스(WWDC)에서 인공지능(AI) 관련 프로젝트들을 공개할 예정인 가운데, 이러한 앱들과 관련하여 애플이 어떤 행보를 보일지 주목할 만합니다. 애플의 책임 있는 기술 구현에 있어 중요한 부분은 윤리적 행동과 건전한 기술 거버넌스에 대한 좋은 이미지를 유지하는 것이며, 이는 애플 제품에 AI를 점점 더 많이 사용하는 상황에서 매우 중요합니다.

이러한 앱들을 삭제하는 것은 AI 개발 및 사용과 관련된 윤리적 문제의 한 예가 될 수 있습니다. AI 기능 개발과 관련된 두 번째 우려는 사용자 개인정보 보호입니다. 사용자에게 동의를 구하고 안전을 보장해야 합니다. 애플은 이러한 앱들을 차단함으로써 자사 커뮤니티 내에서 윤리적 행동을 강조하고 있습니다.