マスク氏のXは、グロックによる不適切な画像が掲載されたとされ、英国で禁止される可能性がある。

イーロン・マスク氏は、ダークウェブ上に不適切な画像が投稿されたとして、英国でXアプリを禁止する可能性を検討している。ユーザーらは、これらの画像はGrok AIチャットボットによって生成されたものだと主張している。英国のインターネット監視機関であるOfcomは、数十億ドル規模の罰金やXアプリへのアクセスを完全にブロックすることなど、あらゆる選択肢を提示するよう求められた。. 

慈善団体インターネット・ウォッチ財団（IWF）は、アナリストがダークウェブサイト上でGrokによって生成されたと思われる11歳から13歳までの少女の画像を発見したことを明らかにした。メディア規制当局である英国通信庁（Ofcom）によると、これらの画像は違法な児童性的虐待コンテンツに該当するという。. 

キア・スターマー、オフコムにあらゆる選択肢を検討するよう要請

英国のキア・スターマー首相は、マスク氏のxAIアプリ「Grok」が若い女性や子供の犯罪画像を生成したとされる事件を受け、英国のインターネット監視機関である通信庁（Ofcom）に対し、マスク氏の訴訟を審議するにあたり、あらゆる選択肢を検討するよう要請した。テレグラフ紙の報道によると、英国のオンライン安全法では、Xアプリに数十億ドルの罰金を科したり、英国内でXへのアクセスをブロックしたりする権限が与えられている。. 

Xアプリは世界中で6億5000万人以上のユーザーを抱え、そのうち少なくとも2000万人は英国からのユーザーだ。スターマー首相はグレイテスト・ヒッツ・ラジオで、Xはきちんと対応して問題のコンテンツを削除すべきだと警告し、マスク氏のアプリに対しては容認できない措置を取ると付け加えた。同首相は、ビキニ姿の女性や子供の裸の画像が複数掲載され、それらが Grok AIチャットボットによって生成されたとされていることを受けて警告した。 

「X社はこの問題をしっかり把握しなければなりません。Ofcomがこれに関して行動を起こすことを、私たちは全面的に支持します。これは間違っています。違法です。私たちはこれを容認しません。あらゆる選択肢を検討するよう求めました。」

-キア・スターマー、英国首相 

これまでのところ、規制当局は禁止措置を適用する前に、調査や暫定的な判断など、適切な法的手続きを踏むと予想されています。XがOfcomの懸念に対処しない場合、規制当局は英国でのXのサイトへのアクセスをブロックするよう求める可能性があります。Ofcomは今週、Xに連絡を取り、問題の画像に関する調査を開始する可能性があることを示唆しました。. 

マスク氏はOSAの目的は人々の抑圧だと考えている

マスク氏は以前、 を批判し 、その目的は人々の言論を抑圧することだと主張した。マスク氏によれば、英国のOSAは、有害なコンテンツから子供を守るための措置を通じて、言論の自由を侵害する恐れがあるという。マスク氏は、同法の「称賛に値する」意図には、通信規制機関Ofcomによる積極的な実施が含まれていると指摘した。

インターネット監視財団のホットライン責任者であるアレクサンダー・ンガイア氏はBBCに対し、 と述べた 。彼女は、この画像を英国法における犯罪行為の最低カテゴリーであるカテゴリーCに分類した。さらに、画像をアップロードしたユーザーは、Grokではなく別のAIツールを使用して、最も深刻な犯罪行為とみなされるカテゴリーAの画像を作成していたと付け加えた。  

ンガイア氏によると、IWFは、人々が写真のようにリアルな児童性的虐待画像（CSAM）を容易かつ迅速に作成できることを懸念している。同財団は、疑わしいCSAMが報告された際に、その合法性と深刻度を評価するホットラインを通じて、インターネットからそのような画像を削除することを目指している。IWFのアナリストは、問題の画像は ダークウェブ 、Xプラットフォームでは見つからなかったことを突き止めた。 

Xによると、CSAMを含むプラットフォーム上の違法コンテンツに対しては、削除やアカウントの永久停止といった措置を講じるほか、必要に応じて地方自治体や法執行機関と連携する。同ソーシャルプラットフォームは、Grokに違法コンテンツの作成を促した者は、実際にアップロードした場合と同じ結果に直面すると警告している。.