インド政府、露悪的なAIコンテンツを巡りXに対しGrokの改善を要請

インド政府は、イーロン・マスク所有のブログプラットフォーム「X」に対し、露悪的なAIコンテンツを理由に、Grok人工知能チャットボットの変更を命じた。同国は、ユーザーや議員らにより複数の露悪的コンテンツ事例が指摘されたことを受け、チャットボットに対する即時の技術的および手続的変更をプラットフォームに求めている。

同国によると、これらの卑猥な画像、特にこのツールを使用して作成された女性のAI加工画像の生成にチャットボットが使用されている事例が確認されています。インドのIT省は金曜日に命令を発令し、Grokに関連する是正措置を講じるようプラットフォームに要請しました。具体的には、「ヌード、性的描写、性的に露骨な内容、その他違法な」コンテンツの生成を制限することなどが含まれます。また、省はプラットフォームに対して変更を実施するための72時間の最終通告を与えています。

インド政府、XにGrokの技術的変更を命令

72時間という最終通告における履行事項の一環として、同省はまた、不適切なコンテンツのホストや拡散を防ぐために講じた措置を詳述した行動報告書の提出をXに求めています。対象となるコンテンツとは、「わいせつ、ポルノ、下品、不道徳、性的に露骨、児童ポルノ、または法律で禁止されているその他のもの」です。この命令では、プラットフォームが必須の措置を実施しなかった場合、「セーフハーバー」保護が脅かされる可能性があると警告しています。

インドの今回の命令は、主に女性である個人の画像を水着を着ているように見せるようGrokへのプロンプトが与えられた事例をユーザーが共有したことによる懸念の高まりを受けて出されました。この問題は、インドの議員Priyanka Chaturvedi氏が提出した正式な苦情をきっかけに浮上しました。Chaturvedi氏は、AIチャットボットを備える大手企業に対し警告を発し、Grokのような機能を監視するためにガードレールを設ける必要があると付け加えました。これにより、チャットボットが人間の尊厳を侵害しないようにするためです。

別に、ユーザーからは、AIチャットボットが未成年者を含む性的な画像を生成するために使用された複数の事例が報告されており、これはXが金曜日に認めた問題です。プラットフォームは、これは safeguards のいくつかの抜け穴によるものであったとし、速やかに生成された画像の削除を行ったと主張しました。また、同プラットフォームは、そのような問題の防止に取り組むことを表明し、ユーザーに対し連邦捜査局（FBI）またはNCMECのサイバーチップラインへ正式に通報するよう促しました。

Xは非遵守により法的問題に直面する可能性があります

ユーザーによると、チャットボットによって生成された女性の不適切な画像がプラットフォーム上に残されていた。今回の最新指示は、インドのIT省がソーシャルメディアプラットフォームに対して発出した勧告に続くもので、露骨で性的なコンテンツに関する現行法令への準拠が、ユーザー生成素材に対する法的責任からの免責を維持するための前提条件であることを再確認するものだった。同国は企業に対し、安全装置の強化を促し、不遵守の場合は法的措置の対象となる可能性があると警告した。

「上記要件への不遵守は厳重に受け止められ、追加の通知なしに、プラットフォーム、その責任役員、および法律に違反するプラットフォーム上のユーザーに対して厳格な法的措置が講じられる可能性がある」と、同指示は警告している。また、インド政府はXに対し、自らの指示に従わない場合、インドのIT法および刑事法規に基づき同プラットフォームに対して法的措置を開始する権限があるとも警告している。

インドは最大のデジタル市場の一つとして台頭し、政府がプラットフォームに対して AI 生成コンテンツの責任を問うためにどこまで踏み込むかという重要な試金石と見なされています。同国で執行が強化されれば、他の管轄区域でも事業を展開するグローバルなテクノロジー企業に波及効果が生じる可能性があります。この命令は、X が裁判所においてインドのコンテンツ規制規則に引き続き異議を唱えているタイミングで出されました。

プラットフォームは、連邦政府の削除権限が権限濫用のリスクを伴うと主張している。同プラットフォームは同国から出されたブロック指示のほとんどに準拠しているものの、その一方で、GrokはX上のユーザーにとって有益であり、多くのユーザーがリアルタイムの事実確認や世界的出来事へのコメントのためにこのプラットフォームを利用しているため、その出力は単独のAIツールよりも可視性が高く、政治的に敏感なものとなっている。