インドは大手テクノロジー企業に、何年もできなかったものを作るのに9日間の猶予を与える

インドは、 おそらく達成不可能な難題を突きつけ た。2月20日から、インド国内で事業を展開するソーシャルメディア企業は、偽のAIコンテンツすべてにラベルを付け、違法なディープフェイクを3時間以内に 削除しなければならない。これを適切に 行うための技術は まだ存在しない。

火曜日に発表されたこれらの規則は、 Meta、Google、Xなどのプラットフォームに対し、ユーザーが目にする前にAIが生成した画像、動画、音声を 捕捉し、マークするシステムを導入するよう圧力をかけています。企業はまた、これらのラベルを削除したり隠したりすることを 阻止する必要があります。これらの巨大テクノロジー企業は、数十億ドルものリソースを投入しているにもかかわらず、既存の検出ツールを安定的に機能させることに苦労しています。

大手プラットフォームの多くは既にC2PAと呼ばれる技術を採用しており、ファイル内に目に見えない情報 を埋め込むことで、その 作成方法を示す仕組みになっています。これはデジタルコンテンツにおける栄養成分表示のようなものです。この技術がうまく機能すれば、ラベルは見落としやすく 写真が実際のカメラで撮影されたものか、AIジェネレーターで生成されたものかを見分けることができます。Facebook、Instagram、YouTube、LinkedInなどは こうしたコンテンツにフラグを立てようと していますが、、多くの偽 コンテンツがすり抜けてしまっています。

このシステムには 大きな欠陥がある。偽のヌード写真 を作成するオープンソースのAIツールやアプリは、ラベル付けのプロセスを 完全に 省略していることが多い。ラベルが存在する場合でも、多くのサイトではファイルのアップロード中に消えてしまう。C2PAの支持者たちは、この技術が成功するにはより広範な普及が必要だと長年主張してきた。インドは5億人のソーシャルメディアユーザーを抱え、まさに その主張を検証しようとしている。

インドの市場力がすべてを変える理由

インドには、Instagramユーザーが4億8100万人、Facebookユーザーが4億300万人、YouTube視聴者が5億人、Snapchatユーザーが2億1300万人います。Xはインドを 3番目に大きな市場と見なしています。これほど大きな国 が新しい規則を制定すると、グローバルテクノロジー企業は通常、一か所だけでなく、あらゆる場所でシステムを調整します。

この動きは、インドがディープフェイク 危機への 対応に数ヶ月を費やした後に起こった。Cryptopolitan は昨年10月、ボリウッド俳優のアビシェーク・バッチャンとアイシュワリヤー・ライ・バッチャンが、自分たちの顔を使った偽動画をめぐって訴訟を起こし、50万ドル近い損害賠償を求めたと報じた。夫妻は、 YouTubeのAIトレーナーが許可なく公開コンテンツ を取得し、後に自分たちの画像を使った偽メディアを作成するシステムを訓練したと主張した。こうした事例や、女優ラシュミカ・マンダンナの偽動画が拡散したことが、当局の 行動を 促した。

このタイミングは、 合致している 。Googleは、米国以外では最大規模となる150億ドル規模のAIハブをヴィシャーカパトナムに建設中だ。この施設はギガワット級の計算能力を備え、2028年7月に開設予定である。こうしたAIインフラの導入に伴い、規制当局はまずコンテンツの安全性に関する規則を整備することを求めている。

批評家は「速射的な検閲」を警告

厳しい期限設定は、言論の自由擁護者たちの懸念材料となっている。インターネット自由財団は、 3時間という削除期限によって企業は、誤って大量のコンテンツを削除してしまう自動システムを使わざるを得なくなると指摘する。彼らはこれを「高速検閲システム」と呼び、人間が報告書を適切に審査する時間がないことを 問題視している。

Xのような、まだAIによるラベル付けシステムを導入して いないプラットフォームは、わずか9日間でシステム全体をゼロから構築しなければならない。Meta、Google、Xはいずれもコメントを拒否した。C2PAを開発したAdobeも 沈黙を 保った。

規則を策定している当局者は、現在の技術がまだ準備できて いないこと を認識しているようだ。要件に は、プラットフォームは「技術的に可能な範囲で」検出方法を使用すべきだと記載されているが、これは完璧は期待され ていないことを認める法的表現である。インドの指導者たちは、圧力がイノベーションを促進すると考えている。彼らは、テクノロジー企業に、より優れたシステムを構築するか、数億人のユーザーへのアクセスを失うかのどちらかを迫れば、 彼らは すぐに解決策を見つけるだろうと賭けているのだ。

より優れたAI検出技術が実際に開発可能なのか、それともインドがまだ製造 不可能なものを企業に発注した だけなのかは 、まだ分からない。 9日後には明らかになるだろう。