サンフランシスコ市司法長官がAI駆動のディープフェイクヌードウェブサイト閉鎖を目的とした訴訟を起こす

サンフランシスコ市司法長官David Chiuは、彼のオフィスが女性や少女の同意のないディープフェイクヌード画像を開発・配布するためにAIを使用する16のウェブサイトに対して訴訟を行っていることを発表しました。これは、AIによる同意のない画像の作成と配布に対する関心が高まっている時期に発生しています。

Chiuによると、この訴訟はサンフランシスコで初の試みであり、ディープフェイクポルノ、児童ポルノ、リベンジポルノを非難する州および連邦法、ならびにカリフォルニア州の不正競争法に違反したとして、ウェブサイトの運営者を非難しています。

Chiuはこの悪習に対する警鐘を鳴らしたいと考えています

ニューヨーク・タイムズによると、このイニシアチブはYvonne Mere副司法長官のアイデアであり、彼女は同僚を糾合して訴訟を策定し、16のウェブサイト閉鎖につながると予想されます。

ウェブサイトの名前は、木曜日に一般公開された訴訟のコピーで伏字にされていました。

司法長官事務所は、ウェブサイトの所有者の大部分をまだ特定していないと述べていますが、その事務所の当局者は、サイト所有者の名前を特定し、責任を追及できることに対して楽観的な見解を示しています。

木曜日の記者会見で、Chiu氏は、これらのサイトが同意のない「ポルノグラフィック」な素材を生成していると明らかにしました。Chiu氏は、この種の「性的虐待」に対する警鐘を鳴らし、終結させるだけでなく、訴訟によって該当するウェブサイトも閉鎖されるべきであると示唆しました。

「この調査はインターネットの最も暗い隅々へと私たちを導き、この搾取に耐えなければならなかった女性や少女たちに対して、私は本当にぞっとしました。」

Chiu。

該当するウェブサイトでは、ユーザーは完全に着衣のリアルな人々の写真をアップロードし、AIを使用して裸の女性や少女の画像を作成します。これらのサイトのAIモデルは、ディープフェイクを作成するために、実際のポルノや児童虐待の画像で訓練されていました。

訴訟で示されているように、1つのサイトは画像の同意のない性質を促進しており、主張しています「彼女をデートに誘う時間を無駄にする代わりに、[削除されたウェブサイト名]を使って彼女のヌード画像を手に入れればいい」と。

オープンソースAIモデルの利用可能性とアクセシビリティにより、誰でも目的のためにAI搭載エンジンをアクセスして適応しやすくなりました。これにより、ゼロからディープフェイクのヌード画像を生成したり、既存の写真を現実的な方法で「ヌード化」したりできるサイトやアプリが作成され、多くの場合、有料で提供されています。

サンフランシスコは、この課題を目の当たりにできる唯一の場所ではありません

1月、ディープフェイクアプリが話題になりました。テイラー・スウィフトの偽のヌード写真がオンラインで拡散されたのです。スウィフト以前およびその後も、はるかに知名度の低い多くの人々が迫害されました。

チウ氏は、「これらの画像の蔓延は、有名人から中学生まで、世界中の驚くべき数の女性や少女を搾取してきた」と認めています。

市弁護士事務所は独自の調査を通じて、今年最初の6ヶ月間にこれらのウェブサイトへのアクセスが2億回を超えたことを発見しました。事務所は、一度画像がオンラインにアップロードされると、被害者が自分の写真が「ヌード化」するために使用されたウェブサイトを確認することが困難になるという懸念を表明しました。

これは、画像にウェブサイトへの参照となる独自性や識別マークがないためです。さらに、被害者がインターネットから写真を削除することも困難であり、これは彼らの自尊心やデジタルフットプリントに影響を与えます。

今年初頭、ビバリーヒルズの8年生5名が、16人の8年生女子のディープフェイクの裸画像を生成・共有したとして退学処分となりました。これは、AI生成された体に女子たちの顔を合成するものでした。

カリフォルニア州、ニュージャージー州、ワシントン州の他の学校でも同様の事例が観察されており、これらの画像は女性や少女を侮辱、いじめ、脅迫するために使用されました。

弁護士事務所によると、被害者へのネット効果は、評判の破壊、メンタルヘルスの悪化、自尊心の喪失、そして場合によっては自殺に追い込まれることなど、壊滅的なものでした。