- 이러한 앱들은 AI 에 활용 가능한 머신러닝 도구를 악용하여 개인의 동의 없이 비동의 이미지를 생성하려 했습니다.
- 가상의 붓으로 홍보된 해당 앱들은 사기극을 연기하는 역할을 위장했습니다.
지난달, 기술 거인 Apple Inc.은 대담한 움직임을 취하여 세 개의 앱을 App Store에서 제거했습니다. 이러한 앱은 AI에서 사용할 수 있는 머신 러닝 도구를 착취하여 사람의 동의 없이 비동의 이미지를 구성하려고 시도했습니다. 이 결정은 앱이 Instagram과 같은 곳과 포르노! 웹사이트에서 허위 광고를 사용하고 있다는 우려에 따른 것입니다.
광고의 오해의 사례
이 광고를 클릭하는 사람은 Apple App Store로 보내지며, 동일한 앱은 누드를 생성할 수 있다는 사실에 대한 참조 없이 '아트 생성기'로 설명됩니다. 이는 2022년에 처음 식별된 모바일 앱 스토어의 오랜 틈새입니다.
AI 기반 알고리즘을 통해 이 행위를 한 것으로 비난받는 앱은 사진에서 개인의 의복을 벗기는 것을 주장하여, 피험자의 허가나 지식이 없음에도 불구하고 누드의 잘못된 가정을 초래했습니다. 이러한 행위는 사생활을 침해할 뿐만 아니라 착취, 괴롭힘 및 협박의 잠재적 원천이기도 합니다.
4월 10일부터 4월 20일까지 Facebook, Instagram, Facebook Messenger 및 Meta의 앱 내 광고 네트워크에서 다양한 다른 AI 생성 여성과 함께 이 광고의 여러 유사한 버전이 표시되었습니다.
이러한 사기 앱에 대한 제보 후, Apple은 실제로 App Store에서 이를 제거한 첫 번째였습니다. 그들은 무죄라고 주장했지만, 그들의 진정한 동기는 앱이 Apple을 제거하고 커뮤니티 표준을 준수하도록 강요함으로써 드러났습니다. 이는 Apple이 모두를 위해 안전하고 성별 중립적인 디지털 공간을 만드는 데 대한 흔들리지 않는 헌신을 명확히 보여줍니다.
지속적인 과제와 책임
Apple이 취한 대응 조치가 존경을 받을지라도, 이 사건은 결국 앱 검토 및 광고 방법 모니터링에 대한 일부 의문을 제기합니다. 이러한 앱이 App Store에서 오랫동안 unnoticed로 있었으며, 이는 사기성 앱을 감지하고 제거하기 위해 더 신중하고 적극적인 조치가 필요함을 강조합니다.
또한 개발자들은 Apple과 Google의 감지를 피하기 위해 성인 사이트에서 불법 기능의 홍보에 교활한 방법을 적용했습니다. 이러한 사례들은 기술 회사가 플랫폼을 감시하고 커뮤니티 가이드라인을 시행하는 데 직면한 문제를 보여줍니다.
Apple의 다가오는 AI 관련 프로젝트 발표인 2023년 전 세계 개발자 회의(WWDC)와 관련하여, 회사가 이러한 앱에 대해 취한 움직임은 매우 흥미로울 것입니다. Apple의 책임 있는 기술 구현의 중요한 부분은 윤리적 행동과 건전한 기술 거버넌스에 대한 좋은 이미지를 유지하는 것이며, 이는 제품의 AI 사용이 증가함에 따라 중요합니다.
이러한 앱을 제거하는 것은 AI 개발과 사용의 윤리적 문제의 예가 될 것입니다. AI 능력 개발과 관련된 두 번째 우려는 사용자의 사생활입니다. 또한 사용자의 허가를 요청하고 안전을 보장해야 합니다. 이러한 애플리케이션을 차단함으로써 Apple은 커뮤니티 내에서 윤리적 행동을 강조합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
