カリフォルニア州司法長官、不適切なディープフェイク画像に関してxAIに業務停止命令

カリフォルニア州司法長官ロブ・ボンタ氏は、イーロン・マスク氏のxAIに対し、同社のGrokチャットボットが生成する不快なディープフェイク画像の作成と配布を直ちに停止するよう要求する業務停止命令書を送付した。. 

カリフォルニア州司法長官は 発出した 金曜日、Grokが児童や成人の同意のない写真を含む違法コンテンツの作成に利用されているという疑惑を受け、カリフォルニア州の調査に着手し、差し止め命令書を

カリフォルニア州司法長官、Grokの不正使用の疑いでxAIを標的に

今週初め、カリフォルニア州司法長官事務所は、 受け 、同社に対する調査を開始したと発表した。これに対し、州政府は同社に活動停止命令書を送付した。

本日、xAIに対し、ディープフェイク、合意のない性的な画像、違法な児童虐待画像の作成と配信を直ちに停止するよう求める停止命令書を送付しました。これらの画像の作成は違法です。xAIが直ちにこれに従うことを期待します。カリフォルニア州は違法な児童虐待画像に対して一切の寛容を禁じています。

―ロブ・ボンタ、カリフォルニア州司法長官。

司法長官事務所はさらに、xAIが合意のない不適切な写真の「大量生産を助長」し、それが「インターネット上で女性や少女への嫌がらせに利用されている」と主張した。司法長官事務所によると、ある調査によると、クリスマスから新年にかけてxAIが作成した2万枚の写真のうち、半数以上が薄着の人物を写しており、中には子供のように見える人物もいたという。.

ロブ・ボンタ氏は 発表 、 同社の企業慣行はカリフォルニア州民法、具体的にはカリフォルニア州民法典第1708.86条、カリフォルニア州刑法典第311条以下および第647条(j)(4)、カリフォルニア州事業・職業法典第17200条に違反していると主張した。 

カリフォルニア州司法省は、xAI がこれらの問題に対処するための努力を表明し、今後 5 日以内に解決に向けて直ちに行動を起こすと予想しています。.

しかし、Xの安全対策担当者は以前からこうしたユーザーの行動を非難していた。 の 停止defi、必要に応じて法執行機関や地方自治体との連携といった措置を講じていることを明らかにした。

注目すべきことに、1月4日、イーロン・マスク氏は、Grok を使用したり、 Grok 違法コンテンツの作成を促したりする者は、実際にアップロードした場合と同じ結果に直面すると警告した。

司法長官、子供の安全をめぐりAI企業への圧力を強める

無料のAI生成ツールの開発により、合意のないアダルトコンテンツが不安なほど増加しています。この問題はXだけでなく、複数のプラットフォームで問題となっています。.

例えば、デラウェア州のボンタ司法長官とジェニングス司法長官は 会談し 、OpenAIの製品が若者とどのように関わっているかに関する報告が増加していることについて、深刻な懸念を表明した。

同年8月、ボンタ司法長官は他の44人の司法長官と共に、AIチャットボットと児童の不適切なやり取りに関する報告を受け、12の大手AI企業に書簡を送付しました。送付先は、Anthropic、Apple、Chai AI、Google、Luka Inc.、 Meta、Microsoft、Nomi AI、OpenAI、Perplexity AI、Replika、xAIです。

ボンタ司法長官と44人の司法長官は、書簡の中で企業に対し、全米の各州が企業のAI安全ポリシー策定状況を綿密に監視していることを伝えた。また、これらの企業は、子どもたちが自社製品を使用することで利益を得ているため、消費者である子どもたちに対する法的義務を負っていることを強調した。. 

2023年、ボンタ司法長官は54の州と準州の超党派連合に加わり、CSAMを通じて子供を搾取するためにAIが使用される可能性を調査するための専門委員会の設立を主張する書簡を議会指導者に送りました。. 

同連合は 要請した 。米国司法省によれば、「児童性的虐待画像（CSAM）の作成は、子どもが被害を受けたという永久的な記録を残すことになる」。