不適切な画像の後、Elon MuskのXにGrokコンテンツの禁止を緊急に求める

Elon MuskのAIチャットボットGrokは、X上の公開プロンプトに対して子供の性的に露骨な画像を作成したため、フランス、マレーシア、インドで永久に禁止されるリスクに直面しています。

土曜日、マレーシア当局は、GrokがAIを使用して攻撃的かつ違法なコンテンツを生成しているとして調査していると発表しました。マレーシアの通信・マルチメディア委員会（MCMC）は、Grokが性的に露骨な形態で女性や未成年者の操作された画像を生成しているという苦情を受け取ったことを確認しました。

当局は、そのようなコンテンツの配布がマレーシアでは犯罪行為であることを明確にしました。声明によると、彼らはXのコンテンツを要求または投稿したユーザーも追跡し、Xの代表者を招いて尋問する計画です。

MCMCは述べています、「Xは現在ライセンスを受けたサービスプロバイダーではありませんが、プラットフォーム上の有害なコンテンツの拡散を防ぐ義務があります。」

インド、フランス、EUがGrokの画像について法的脅威を高める

ちょうど1日前、インドの電子情報技術省はXに対し、公式警告を発出し、Grokの完全な見直しと、裸体、性的な素材、または違法なものを生成する能力について要求しました。

Bloombergは、1月2日付の通知のコピーを目撃し、Xに行動報告書の提出を72時間以内に求めるものでした。手紙は、国のIT法に基づく潜在的な刑事訴追と追加の罰則を警告しました。

インドの情報技術大臣Ashwini VaishnawはCNBC-TV 18に対し、「議会の委員会はソーシャルメディアを規制するための強力な法律を推奨しています。私たちはそれを検討しています」と語りました。

一方、フランス政府も遠慮しませんでした。当局者は金曜日、GrokがX上で同意なく「明らかに違法な」性的なコンテンツを生成したと述べました。彼らは、このチャットボットの行動は、大規模プラットフォームが違法なコンテンツを制限するために強力な措置を取ることを求める欧州連合のデジタルサービス法に違反する可能性が高いと述べました。

フランスによると、Grokの行動はプラットフォームルールの執行における完全な失敗を示しています。

一部の画像は反発の後削除されましたが、当局者はすでに損害が生じたと述べました。Grok自体の方針でさえ性的な表現を禁止しているため、違反はさらに悪化しています。

この論争への対応として、X上のGrokの投稿は「ガードレールの欠陥を特定した」と主張し、修正は「緊急に適用されている」と述べました。しかし、これは政府からの説明責任を求める要求を遅らせるものではありませんでした。

EUがXに€120百万の罰金を科す中、Muskが怒りを爆発

一方、先月、欧州連合（EU）はデジタルサービス法（DSA）違反によりXに1億2000万ユーロ（約1億4000万ドル）の罰金を科した。この罰金は、誤解を招くブルーチェックマークのデザイン、不透明な広告システム、研究者へのデータアクセス拒否に対するものだった。しかし、イーロン・マスクはプラットフォーム上で激しく反発した。

EUの公式投稿に対する1つの返信で、イーロンは単に「バカげている！」と書き込んだ。翌日、彼は「EUは廃止され、主権は各国に戻され、政府が国民をよりよく代表できるようにすべきだ」と投稿した。

EU駐在米国大使のAndrew PuzderはX上でElonを支持し、「今日の過剰な€1億2,000万の罰金は、米国のイノベーションを対象としたEUの規制の行き過ぎの結果です」と述べました。

彼は、Trump大統領の政権は検閲に反対しており、不公平な国際規則と戦うだろうと付け加えました。「EUは公平で開放的、かつ相互的な貿易に従事することを期待します。それ以外ではありません」とPuzderは投稿しました。

Grokをめぐる反発が高まるにつれ、規制と訴訟の脅威も高まっています。しかし、状況を鎮静化させる代わりに、ElonとそのチームはBloombergからのメールリクエストに対し、たった2つの言葉で返信しました。「伝統的メディアは嘘をついている。」