サンフランシスコ市検事、AI駆動型ディープフェイクヌードウェブサイト閉鎖を求める訴訟

サンフランシスコ市検事のデイビッド・チウ氏は、AIを用いて女性や少女の同意のないディープフェイクヌード画像を作成・配信している16のウェブサイトを提訴すると発表した。これは、AIを用いた同意のない画像の作成と配信に対する注目が高まっている中での措置である。.

チウ氏によると、この訴訟はサンフランシスコでは初めてのもので、ウェブサイト運営者がディープフェイクポルノ、児童ポルノ、リベンジポルノを非難する州法と連邦法、およびカリフォルニア州の不正競争防止法に違反したと非難している。.

チウ氏はこの悪習慣について警鐘を鳴らしたいと考えている。

によると ニューヨーク・タイムズ紙、この取り組みは首席副検事のイヴォンヌ・メア氏の発案によるもので、彼女は同僚たちを動員して訴訟を起こし、その結果、16のウェブサイトが閉鎖される見込みだという。

木曜日に公開された訴状のコピーでは、ウェブサイトの名前は検閲されていた。.

検察庁は、ウェブサイト所有者の大半をまだdentいないと述べたが、同庁の職員らは、サイト所有者の名前を見つけて責任を問うことについては楽観的な見方を示した。.

で 記者会見 、チウ氏は、これらのサイトが同意のない「ポルノ」コンテンツを制作していることを明らかにした。チウ氏は、この種の「性的虐待」に警鐘を鳴らし、これを根絶するだけでなく、訴訟によってこれらのウェブサイトを閉鎖させるべきだと示唆した。

「今回の捜査はインターネットの最も暗い隅々まで我々を導きました。この搾取に耐えなければならなかった女性や少女たちのことを思うと、本当に恐ろしいです。」

チウ。.

これらのウェブサイトでは、ユーザーが服を着た実在の人物の写真をアップロードし、AIを活用して裸の女性や少女の画像を作成している。これらのサイトのAIモデルは、実際のポルノや児童虐待の画像を学習してディープフェイクを作成している。.

訴訟で指摘されているように、問題のサイトの一つは、画像の非同意性を宣伝し、 と主張している 「彼女をデートに連れ出すのに時間を無駄にするよりも、[伏せられたウェブサイト名]を使えば彼女のヌード写真が手に入る」

オープンソースのAIモデルが容易に利用可能になったことで、誰でもAIエンジンにアクセスし、目的に合わせてカスタマイズできるようになりました。その結果、ディープフェイクヌードをゼロから生成したり、既存の写真をリアルな方法で「ヌード化」したりできるサイトやアプリが、多くの場合有料で登場しています。.

この挑戦を目撃したのはサンフランシスコだけではない

1月、テイラー・スウィフトの偽ヌード写真がネット上で拡散し、ディープフェイクアプリが大きな話題となりました。スウィフトに先立ち、またその後も、多くの、はるかに知名度の低い人々が迫害を受けました。.

チウ氏は「こうした画像の蔓延により、著名人からdentに至るまで、世界中で驚くほどの数の女性や少女が搾取されてきた」と認めている。.

市検察局は独自の調査により、今年上半期にこれらのウェブサイトへのアクセスが2億回を超えたことを明らかにした。同局は、画像がオンラインに公開されると、被害者が自分の写真を「ヌード化」するために使用されたウェブサイトを特定することが困難になるのではないかと懸念を表明した。.

これは、画像にウェブサイトを遡って確認できるような独自性やdentマークが何もないためです。さらに、被害者がインターネットから写真を削除するのは困難であり、それが彼らのsteem とデジタルフットプリントに影響を与えます。.

今年初め、ビバリーヒルズの 中学2年生 、16人の女子中学2年生の顔をAIで生成した体に重ね合わせたディープフェイクの裸の画像を作成・共有したとして退学処分となった。

カリフォルニア州、ニュージャージー州、ワシントン州の他の学校でも、女性や女児を辱め、いじめ、脅迫するために画像が使用される同様の事例が確認されている。.

検察庁によれば、被害者に対する総合的な影響は、評判の失墜、精神衛生上の問題、steemの喪失、そして場合によっては自殺にまで至るケースだという。.