インド政府、わいせつなAIコンテンツについてX社にGrokの修正を要請

インド政府は、イーロン・マスク氏が所有するブログプラットフォームXに対し、AIチャットボット「Grok」にわいせつなコンテンツが含まれているとして、修正を命じた。ユーザーや議員から複数のわいせつコンテンツが報告されたことを受け、インド政府はプラットフォームXに対し、チャットボットの技術的および手続き的な修正を直ちに実施するよう求めている。.

同国によると、 チャットボット これらのわいせつな画像を作成するために使用された事例があり、このツールを使用して作成された女性のAI加工画像も含まれる。インドのIT省は金曜日に命令を出し、プラットフォームに対し、Grokに関して是正措置を取るよう求め、その中には「ヌード、性的描写、性的に露骨な表現、またはその他の違法な」素材を含むコンテンツの生成を制限することも含まれている。同省はまた、プラットフォームに対し、変更を実施する72時間の最後通牒を出した。

インド政府、X社にGrokの技術的変更を命じる

72時間の最後通牒における成果物の一部として、省はXに対し、わいせつなコンテンツのホスティングまたは拡散を防止するために講じた措置の詳細を記した措置報告書の提出も求めました。これらのコンテンツには、「わいせつ、ポルノ、下品、卑猥、性的に露骨、小児性愛、その他法律で禁止されているコンテンツ」が含まれます。命令書は、プラットフォームが義務的な措置を講じない場合、「セーフハーバー」保護が損なわれる可能性があると警告しています。.

インドの命令は、主に女性の画像をビキニ姿に加工するよう促されたというGrokの事例を共有したユーザーからの懸念を受けて出された。この問題は、インドの国会議員プリヤンカ・チャトゥルヴェディ氏が提出した正式な苦情がきっかけとなった。チャトゥルヴェディ氏は 警告を発し 、チャットボットが人間の尊厳を侵害しないよう、Grokのような機能をチェックするための安全策を講じる必要があると付け加えた。

これとは別に、ユーザーからは、AIチャットボットが未成年者を題材にした性的画像を生成するために利用されたという複数のdentが報告されており、Xは金曜日にこの問題を認めた。プラットフォームは、生成された画像を迅速に削除する前に、安全対策の不備が原因だと主張した。また、Xはこのような問題の防止に尽力していると述べ、ユーザーに対し、連邦捜査局（FBI）またはNCMECのサイバーチップラインに正式に報告するよう促した。.

Xは不遵守により法的問題に直面する可能性がある

ユーザーによると、チャットボットを使って生成された女性のわいせつな画像がプラットフォーム上に残っていたという。今回の命令は、インドIT省がソーシャルメディアプラットフォームに対し、わいせつなコンテンツや性的に露骨なコンテンツに関する現地法の遵守が、ユーザー生成コンテンツに対する法的免責の前提条件であることを改めて強調する勧告を出した後に発せられた。インド政府は企業に対し、ガイドラインの強化を促し、違反した場合は法的措置につながる可能性があると警告した。.

「上記の要件に違反した場合は、厳正に対処し、貴社のプラットフォーム、その責任者、および法律に違反したプラットフォームユーザーに対し、追加の通知なく、厳格な法的措置が講じられる可能性があることを改めて強調する」と命令書は警告した。インド政府はまた、X社に対し、同政府がこの命令に従わない場合は、インドのIT法および刑法に基づき、同プラットフォームに対して法的措置を講じる権限を有すると警告した。.

インドは世界最大のデジタル市場の一つとして台頭しており、AI生成コンテンツに関してプラットフォームに責任を負わせるために政府がどこまで踏み込むのかを測る重要な試金石と目されている。インドで法執行が強化されれば、他の法域で事業を展開するグローバルテクノロジー企業にも ripple 効果が及ぶ可能性がある。今回の命令は、X社がインドのコンテンツ規制規則を巡り裁判で異議を唱え続けている中で出されたものである。.

同プラットフォームは、連邦政府による削除権限は権限の行き過ぎにつながるリスクがあると主張しているが、同プラットフォームは国が提示したブロッキング指令の大半を遵守している。一方で、 Grokは Xのユーザーにとって有益であり、多くのユーザーはリアルタイムのファクトチェックや世界情勢に関する解説のために同プラットフォームを利用しており、その成果物はスタンドアロンのAIツールよりも可視性が高く、政治的にセンシティブなものとなっている。