Apple、合意のないヌード画像を宣伝するアプリをApp Storeから削除

先月、テクノロジー大手のApple社は大胆な決断を下し、 3つのアプリを削除しました 。これらのアプリは、AIで利用可能な機械学習ツールを悪用し、個人の同意なしに非合意画像を作成しようとしていました。この決定は、Instagramやポルノサイトなどのプラットフォームでアプリが虚偽広告を掲載しているという懸念を受けてのものです。

広告における誤解を招く事例 

この広告をクリックするとApple App Storeに誘導されますが、同じアプリは「アートジェネレーター」と説明されていますが、ヌード画像を生成できるという事実は一切記載されていません。これはモバイルアプリストアにおける長年の抜け穴であり、2022年に初めてdentされました。.

このような行為を行ったとされるアプリは、AIベースのアルゴリズムを用いて、写真に写っている人物の衣服を脱がせると主張し、被写体の許可や知識がないにもかかわらず、ヌードであると誤って推測させています。このような行為はプライバシーを侵害するだけでなく、搾取、嫌がらせ、恐喝の温床となる可能性があります。. 

4月10日から4月20日にかけて、Facebook、Instagram、Facebook Messenger、Metaのアプリ内広告ネットワークで、AIで生成されたさまざまな女性を起用したこの広告の類似バージョンが多数表示されていた。.

これらの詐欺アプリに関する情報提供を受けたAppleは、実際に真っ先にApp Storeから削除しました。彼らは無実を主張していましたが、アプリによって真の動機が明らかになり、Appleはアプリを削除し、コミュニティ規約を遵守せざるを得なくなりました。これは、すべての人にとって安全でジェンダーニュートラルなデジタル空間を創造するという、Appleの揺るぎない決意を明確に示しています。.

継続的な課題と説明責任

Appleが講じた対策は尊重に値するものの、今回のdent、アプリの審査と広告手法の監視体制に疑問を投げかけるものとなりました。これらのアプリがApp Storeで長らく放置されていたという事実は、不正アプリの検出と排除に向けた、より慎重な対応と積極的な対策の必要性を改めて浮き彫りにしています。.

さらに、開発者はアダルトサイトで違法な機能を巧妙な方法で宣伝し、AppleやGoogleによる検出を回避していました。これらの事例は、テクノロジー企業がプラットフォームの監視とコミュニティガイドラインの施行において直面している問題を浮き彫りにしています。.

Appleは2023年のWWDC（世界開発者会議）でAI関連プロジェクトをいくつか公開する予定であり、これらのアプリに関して同社がどのような動きを見せるのか、非常に興味深いところです。Appleの責任ある技術導入において重要な点は、倫理的な行動と健全な技術ガバナンスに関する良好なイメージを維持することです。これは、Appleが製品におけるAIの活用を拡大していることを考えると、極めて重要です。.

これらのアプリを削除することは、AIの開発と利用における倫理的問題の一例と言えるでしょう。AI能力の開発に関連する2つ目の懸念は、ユーザーのプライバシーです。さらに、ユーザーに許可を求め、安全性を保証する必要があります。Appleは、このようなアプリをブロックすることで、コミュニティにおける倫理的な行動を重視しています。.