数日で300万枚のディープフェイク画像が作成された後、EUがMuskのGrokを調査

欧州委員会は、AIチャットボットGrokが許可なく実在する人々、子供の写真を含む性的な画像を生成していることが発見された後、Elon MuskのソーシャルメディアプラットフォームXに対して正式な手続を開始しました。

Xを利用しているユーザーは、Grokに作成を依頼することで、実際の写真のAI改変版を作成しています。先週、Centre for Countering Digital Hate foundが発表した研究によると、Grokはわずか数日で約300万枚の女性や子供に関するディープフェイク画像を作成しました。

この論争は、複数の国で調査を求める声を引き起こしました。 アイルランドでは、複数の政府閣僚がこれに対応してXアカウントを閉鎖しました。

Fine Gael所属の欧州議会議員であるRegina Doherty氏は、今朝発表された声明で、同委員会による同社への措置を確認しました。彼女は、正式な調査を開始するという決定を支持すると述べました。

「AIシステムが女性や子供に害を及ぼす方法で使用されているという信頼できる報告が浮上した場合、EU法が遅滞なく検討され、執行されることが不可欠です」とDoherty氏は述べました。

彼女はまた、この事件は、プラットフォームがリスクを確認し、違法かつ有害な材料の拡散を防ぐという法的責任を遵守しているかどうかについて、深刻な懸念を提起すると付け加えました。

Doherty氏は、調査が実際の結果をもたらす必要があると強調しました。

「EUで事業を行うどの企業も、法の支配の上に立つことはありません」と彼女は述べました。

彼女はまた、この状況は、新しいAI技術の規制と監視におけるより大きな問題を示しており、EUレベルでより多くの措置を講じるよう求めました。

「この事件は、AI法が生きた立法として維持されるべき理由を浮き彫りにします。執行や監督におけるギャップが明確になれば、それに対処するのは私たちの責任です。深刻な害が発生した際には、EU法がリアルタイムで執行可能でなければなりません」とDoherty氏は述べました。

グリーンランド危機により調査が延期

According to German news source Handelsblattによれば、欧州委員会は先月月曜日にEUのデジタルサービス法に基づき手続を開始する計画だったが、ブロックが米国のドナルド・トランプ大統領によるグリーンランド買収の脅威に対応していたため、決定は延期された。

これはXがEU規制当局とトラブルを起こした初めてのケースではありません。2025年12月、同プラットフォームはデジタルサービス法（DSA）違反によりEUから1億2,000万ユーロの罰金処分を受けました。違反内容には、誤解を招くブルーチェックマーク、広告に関する透明性の欠如、研究者によるプラットフォームへのアクセス防止などが含まれていました。

トランプ政権の高官たちはこの罰金に対して強い口調で批判しました。マコ・ルビオ国務長官とJD・ヴァンス副大統領の両氏はこれを激しく非難し、米国のテクノロジープラットフォームに対する攻撃であると呼びました。

リスク評価とコンテンツモデレーションへの焦点

最新の調査は、XがAIチャットボットのリスクを適切に評価し、有害なコンテンツの作成や拡散を防ぐための十分な措置を講じたかどうかという点に焦点を当てています。デジタルサービス法では、大規模なオンラインプラットフォームに対し、違法なコンテンツやユーザーへの危害に関連するリスクを特定し、対処する義務が課されています。

このような不適切な画像が極めて短期間に大量に生成されたことは、デジタル安全推進派や立法担当者たちの警報を鳴らしました。

この事態は、EUの規制が新興AI技術をどのように扱うかというテストケースとなっています。AI法は人工知能システムを規律するために可決されましたが、今回のケースはオンラインプラットフォームの責任をカバーするデジタルサービス法に基づいて進められています。

この調査により、Xに対して追加の罰金やGrokの運用方法の変更が義務付けられる可能性があります。Commissionは、デジタルサービス法の重大な違反に対して、企業の年間グローバル売上高の最大6%に相当する罰金を科す権限を持っています。

Xはまだ新しい調査について公にコメントしていません。他の国々が独自の 規制対応を検討している中で、同社の状況への対応は注視されます。複数の国々はすでに、チャットボットが不適切な画像を作成する能力に対処するための緊急措置を 要求しています。