MuskのX、Grokによる不適切な画像の疑いで英国で禁止される可能性

Elon Musk氏は、ダークウェブ上で表示された不適切な画像の疑いにより、英国でXアプリの禁止を検討しています。ユーザーらは、これらの画像がGrok AIチャットボットによって生成されたと主張しています。英国のインターネット監視機関であるOfcomは、数十億ドルに及ぶ罰金や、Xアプリへのアクセス自体のブロックなど、あらゆる選択肢を提示するよう要請されました。 

インターネット監視財団（IWF）は、11歳から13歳の少女の画像がダークウェブ上で発見され、これらがGrokによって生成された可能性があると発表しました。メディア規制機関である通信庁（Ofcom）によると、これらの画像は違法な児童性的虐待材料（CSAM）に該当します。 

Kier Starmer首相、Ofcomにあらゆる選択肢を提示するよう要請

英国のKier Starmer首相は、xAIのアプリ「Grok」が未成年の女性や子供に関する犯罪映像を生成した疑いを受け、英国のインターネット監視機関である通信庁（Ofcom）に対し、あらゆる選択肢を提示するよう要請しました。テレグラフ紙の報道によると、英国のオンライン安全法（Online Safety Act）により、Xアプリに対して数十億ドルの罰金が科せられたり、英国でのXへのアクセスがブロックされたりする可能性があります。 

Xアプリは世界中で6億5000万人以上のユーザーを抱えており、そのうち少なくとも2000万人が英国在住です。Starmer首相は「Greatest Hits Radio」で、Xは事態を収拾し、これらのコンテンツを削除するよう警告しました。また、容認できない行為であるため、Muskのアプリに対して措置が取られると付け加えました。彼は、裸の女性や子供の写真や、水着を着た他の人物との写真が複数投稿され、これらが生成された疑いがあると警告しました。 Grok AIチャットボット。 

「Xはこの状況を把握する必要があります。Ofcomはこの件に関する措置を講じるための全面的な支援を受けています。これは間違っています。違法です。私たちはこれを容認しません。私はあらゆる選択肢を提示するよう要請しました。」

-Kier Starmer、英国首相 

現在、規制当局は禁止を適用する前に、調査や暫定的な裁定を含む法的な手続きに従うと見られています。XがOfcomの懸念に対処しない場合、規制当局は英国からのサイトブロックを求めると考えられます。Ofcomは今週、ソーシャルメディアプラットフォームに連絡し、画像に関する調査を開始する可能性があることを通知しました。 

Musk氏は、OSAの意図は人民の弾圧であると信じています

Musk氏は以前、 批判した 英国のオンライン安全法（OSA）について、その意図は人民の弾圧であると主張しました。Musk氏によると、英国のOSAは有害なコンテンツから子供を守るための措置を通じて、表現の自由を侵害するリスクがあります。Musk氏は、同法の「称賛すべき」意図が、Ofcomを通じた積極的な実施を伴っていると指摘しました。

インターネット監視財団のホットライン責任者であるAlexander Ngaire氏は、 ～と語った BBCに対し、Grokのようなツールは、子供向けの性的なAI画像を主流メディアにもたらすリスクがあると警告しました。彼女は、この材料を英国法の下で犯罪目的における最下位カテゴリーであるカテゴリCに分類しました。さらに、画像をアップロードしたユーザーは、Grokではなく別のAIツールを使用して、最も深刻な犯罪材料と見なされるカテゴリAの画像を作成したと付け加えました。  

Ngaire氏によると、IWFは、人々が写真のようなリアルな児童性的虐待材料（CSAM）を生成する容易さと速度を懸念しています。財団は、疑わしいCSAMが報告されるホットラインを通じて、インターネットからそのような材料を削除することを目指しており、そのアナリストがその合法性と深刻さを評価します。IWFのアナリストは、この材料が ダークウェブ にのみ表示され、Xプラットフォームには見つからなかったことを確認しました。 

Xによると、同プラットフォーム上の違法なコンテンツ（CSAMを含む）に対しては、削除とアカウントの永久停止により措置が講じられ、必要に応じて地方政府や法執行機関と連携します。同ソーシャルプラットフォームは、Grokに違法なコンテンツの作成をプロンプトする者は、それをアップロードした場合と同じ結果に直面すると警告しています。