AI搭載の「ヌーディファイ」アプリの普及と懸念

最近の研究によると、写真の女性をAIで脱がせるアプリやウェブサイトが大きな人気を集めるにつれて、不快な傾向が浮上しています。これらのアプリケーションはしばしば「ヌーディファイ」サービスと呼ばれ、プライバシー、倫理、同意に関する深刻な懸念を引き起こしています。

急増する人気

Graphika（ソーシャルネットワーク分析会社）の報告によると、9月だけでも約2400万人がこれらの脱衣ウェブサイトを訪問しました。これらのサービスの多くは人気のあるソーシャルネットワークを通じてマーケティングされており、XやRedditなどのプラットフォームでの脱衣アプリを宣伝するリンクの数は、年初以来2,400%以上増加しています。これらのアプリの中核機能は、AIを使用して画像を操作し、被写体の擬似ヌードバージョンを作成することです。これらのサービスの大多数が女性のみを対象としていることに注意することが重要です。

倫理的および法的ジレンマ

これらのAI駆動型アプリは、AI技術の進歩によって促進される同意のないポルノグラフィに関連する不快な傾向の一部であり、ディープフェイクポルノグラフィの蔓延につながっています。ディープフェイクポルノグラフィは通常、被写体の知識や同意なしに作成される、動画や画像などの捏造メディアの作成を伴います。これらの画像はしばしばソーシャルメディアプラットフォームから収集され、被写体の制御や認識なしに配布され、重大な倫理的および法的課題を提示します。

オンラインハラスメントとプライバシー侵害

これらのアプリやサービスの一部が同意のない行動やハラスメントを促進しているため、懸念が高まっています。例えば、Xに投稿されたある画像は、脱衣アプリを宣伝するもので、顧客がヌード画像を生成し、デジタルに脱がされた被写体に送信することを示唆し、ハラスメントや虐待を煽っていました。さらに、これらのアプリの一部はGoogleのYouTubeプラットフォームでスポンサードコンテンツに支払い、検索結果で「nudify」などの用語に対して顕著に表示されています。しかし、Googleは性的に露骨なコンテンツを含む広告は許可しておらず、違反する広告を積極的に削除していると述べています。現在、XもRedditもコメントの要請に対して回答していません。

ディープフェイクの蔓延

有名人を含む同意のないポルノグラフィは、インターネット上で長年存在する問題です。しかし、プライバシーの専門家は、AI技術の進歩によりディープフェイクソフトウェアがよりアクセスしやすく、効果的になっていることに次第に警戒感を強めています。これらのツールは、悪意のある行為者だけでなく、高校や大学の学生を含む一般個人も、無防備な被害者を標的にするために利用し始めています。

ディープフェイクへの対処の課題

ディープフェイクポルノグラフィの問題に対処することは、重大な課題を提示します。未成年者を含む此类コンテンツの生成に対する法律は存在しますが、現在、米国には成人を含むディープフェイクポルノグラフィの作成を具体的に禁止する連邦法はありません。法執行機関はこれらの事件の調査で困難に直面することが多く、被害者は法的措置のための資金を確保することに苦労する可能性があります。

注目すべき発展として、ノースカロライナ州の小児精神科医が11月、患者の写真に脱衣アプリを使用した罪で40年の懲役刑を宣告されました。これは、ディープフェイク児童性的虐待素材の生成を禁止する法律の下での初の起訴となりました。

プラットフォームの対応

growing concernsに反応して、ソーシャルメディアプラットフォームが行動を起こしています。例えば、TikTokはこれらのサービスと一般的に関連付けられているキーワード「undress」をブロックしました。ユーザーがこの用語を検索すると、それがプラットフォームのガイドラインに違反する行動やコンテンツに関連する可能性があるという警告が表示されます。同様に、Facebookの親会社であるMeta Platforms Inc.も、脱衣アプリの検索に関連するキーワードのブロックを開始しました。しかし、両社ともこの件についてさらにコメントすることを拒否しました。

法的および倫理的考慮事項

AI搭載の「ヌーディファイ」アプリの台頭は、AIによって生成された同意のないコンテンツやディープフェイクポルノグラフィに関連する法的および倫理的考慮事項に対処する緊急性を浮き彫りにしています。技術が進化するにつれて、ハラスメント、プライバシー侵害、および有害な目的でのAIの乱用から個人を保護するために、規制と保護策が講じられなければなりません。

結論として、同意のないディープフェイクヌードを生成できるAI駆動型アプリの蔓延は、デジタル時代における倫理的、法的、およびプライバシーの問題に対処する緊急性を強調する懸念すべき傾向です。技術が進化するにつれて、立法者もテクノロジー企業も、悪意のある目的でのAIの乱用に対抗し、個人を潜在的な危害から保護するために積極的な措置を取る必要があります。