カリフォルニア州司法長官、xAIに対し不適切なディープフェイク画像に関する差止命令を発出

カリフォルニア州司法長官のロブ・ボンタ氏は、イーロン・マスクのxAIに対し、同社のチャットボット「Grok」によって生成された攻撃的なディープフェイク画像の生産および配布を直ちに停止するよう求める差止命令書を送付した。 

カリフォルニア州司法長官 は 金曜日、Grokが子供や同意のない成人の写真を絡めた違法なコンテンツの作成に使用されているとする告発を受け、これに対応する差止命令書を送った。ボンタ氏は、CSAM（児童ポルノ）の作成、配布、掲載、表示は違法であると主張した。

カリフォルニア州司法長官、Grokの alleged な misuse を理由にxAIを標的にする

今週初め、カリフォルニア州司法長官事務所は 宣言 スタートアップ企業のチャットボット「Grok」が、女性や子供に対する同意のない不適切な画像の生成に使用されているとする告発を受け、xAIの調査を進めていると述べた。これに対し、政府は同企業に対し差止命令書を送付した。

「本日、私はxAIに対し差止命令書を送付し、同社に対しディープフェイク、同意のない親密な画像、および違法な児童虐待画像の作成と配布を直ちに停止するよう求めた。これらの画像の作成は違法である。xAIが直ちに遵守することを完全に期待している。カリフォルニア州は、違法な児童虐待画像に対してゼロ寛容の方針を採用している。」

–ロブ・ボンタ、カリフォルニア州司法長官。

司法長官事務所はさらに、xAIが同意のない不適切な写真の「大規模な生産」を「支援している」ように見え、それらが「インターネット全体で女性や少女を嫌がらせするために使用されている」と主張した。司法長官事務所によると、ある調査では、クリスマスから新年にかけてxAIが生成した2万枚の画像のうち半数以上が非常に少ない衣類を着た人物を示しており、その中には子供のように見える者も含まれていた。

ロブ・ボンタは 発表 が 企業の慣行が、カリフォルニア州民法第1708.86条、カリフォルニア州刑法第311条以下および第647(j)(4)条、およびカリフォルニア州事業・職業法第17200条を含むカリフォルニア州の民事法に違反していると主張した。 

カリフォルニア州司法長官事務所は、xAIがこれらの問題に対処する取り組みを確認し、今後5日以内に解決のための即時措置を取ることを期待している。

しかし、Xの安全性に関するアカウントは以前、この種のユーザー行動を非難していた。同アカウントは 明確化 1月4日、CSAMなどの違法コンテンツに対して、それを削除し、アカウントを無期限に停止し、必要に応じて法執行機関や地方自治体と協力することで対処していると述べた。

特筆すべきは、1月4日にイーロン・マスクが、 Grok 違法なコンテンツの作成やプロンプトを入力する者は、それをアップロードした場合と同じ結果に直面すると警告したことである。

司法長官らがAI企業に対し児童の安全を理由に圧力を強める

無料の生成AIツールの開発により、同意のない成人コンテンツの不快な増加が生じている。この問題は、Xだけでなく複数のプラットフォームを悩ませている。

例えば、司法長官のボンタ氏とデラウェア州のジェニングス司法長官は すべてのスポット型ビットコインETF発行会社と会合を持ち 昨年9月、OpenAIに対し、同社の製品が青少年とどのように相互作用しているかに関する報告が増加していることへの深刻な懸念を表明するため、

同年8月、ボンタ司法長官は他の44人の司法長官とともに、AIチャットボットと子供との間の不適切な相互作用に関する報告を受けて、12社の主要なAI企業に書簡を送付した。この書簡はAnthropic、Apple、Chai AI、Google、Luka Inc.、 Meta、Microsoft、Nomi AI、OpenAI、Perplexity AI、Replika、およびxAI宛てに送られた。

ボンタ司法長官と44人の司法長官は、書簡の中で、全国の州が企業のAI安全性ポリシーの策定を密に監視していることを企業に伝えた。また、これらの企業が子供の利用から利益を得ているため、消費者としての子供に対して法的義務を負っていることも強調した。 

2023年、ボンタ司法長官は、CSAMを通じて子供を搾取するためのAIの潜在的な利用を調査するための専門家委員会設立を訴えるため、54の州および領土の両党からなる連合に加わり、議会指導者宛てに書簡を送付した。 

連合は 要求 専門家委員会が子供をそのような虐待から守るための法律を提案することを支持した。「CSAMの生産は、子供の被害の永続的な記録を作成する」と、米国司法省は述べている。