ニコラス・マドゥロ大統領が権力の座から退いた後、ベネズエラでの偽の祝賀行事を映したAI作成の動画がインターネット上で爆発的に拡散した。.
これらの映像は完全に人工知能によって捏造されたもので、大勢の群衆が歓声を上げ、旗を振り、ドナルド・トランプ大統領と米軍に感謝のdent を表している。しかし問題は、これらの映像は実際には何も起こっていないということだ。.
最初に最も話題になった動画の1つは、100万人以上のフォロワーを持つ「ウォールストリートエイプス」というXアカウントによって投稿されたもので、ベネズエラ国民が泣き、抱き合い、マドゥロ政権を打倒した米国を称賛する様子が映し出されている。.
この投稿はコミュニティノートでフラグが付けられましたが、それは3万8000人がリポストし、560万人が閲覧した後のことでした。さらに、ユーザーが削除する前にイーロン・マスクのフィードにも掲載されました。ノートには次のような警告が添えられていました。
「このビデオはAIによって生成されており、現在、人々を誤解させることを意図した事実の声明として提示されています。」
AIプラットフォームがベネズエラに関する偽動画の拡散を助長
BBCとAFPのファクトチェッカーは、元の動画がAI生成の動画を定期的に投稿しているTikTokのアカウント「@curiousmindusa」であることを tracした。.
正確な情報源は特定できなかったものの、両報道機関はそれが最も初期のバージョンであることを確認した。この映像は、 大規模な軍事作戦 1月3日に米軍が空爆と地上攻撃を行い、マドゥロ大統領の逮捕につながった
政府が公式画像を発表する前から、拘留中の彼の画像はすでにネット上に拡散されていたが、それら初期の画像もすべて偽物だった。.
AFPはさらに誤解を招くコンテンツにも警告を発した。カラカスのストリートパーティーのように見える動画の一つは、ベネズエラの人々が街頭で祝っているかのように偽装されていたが、実際にはチリの古い動画であることが判明した。.
AIが速報中に現実を歪曲するために利用されたのは今回が初めてではなく、そして defiなくこれが最後でもないだろう。ロシア・ウクライナ紛争でも、イスラエル・パレスチナ紛争でも同様のパターンが見られた。しかし、ベネズエラの偽ニュースの真価は、そのスピードとリアリティの速さにある。.
のようなプラットフォームは、 Sora 偽のクリップを数分で大量に作成することを驚くほど簡単にしており、人々はそれに騙され続けています。
ソーシャルプラットフォームは偽コンテンツへの対応に苦戦している
これらの動画の制作者は、特定の政治的主張を推し進めたり、ネット上で混乱を巻き起こそうとしたりすることがよくあります。そして、それは効果を上げています。昨年、AIが作成した動画には、アメリカ政府閉鎖中にSNAP（緊急医療保障プログラム）の給付金を失ったことに泣き叫ぶ偽の女性たちが映っていました。この動画はFox Newsによって本物として放送されましたが、結局削除されました。.
こうした状況を受けて、ソーシャルプラットフォームに対し、AIが生成したコンテンツにもっと明確なラベルを付けるべきだという要求がますます高まっている。インドでは 法案が提案され 、スペインではラベルのないコンテンツに対して3500万ユーロの罰金を科すことが承認された。
一部のサイトは追いつこうとしている。TikTokとMetaは、AI動画を検出してタグ付けするツールを開発したと発表している。CNBCはTikTokで、正しくタグ付けされた偽のベネズエラ動画をいくつか発見した。しかし、結果はまちまちだ。.
一方、Xはコミュニティノートシステムに大きく依存しています。批評家は、このシステムの処理速度が十分ではないと指摘しています。AIによる警告が表示される頃には、すでに何百万人ものユーザーがコンテンツを視聴し、共有しているのです。.
プラットフォームの責任者たちも警鐘を鳴らしている。InstagramとThreadsを運営するアダム・モッセリ氏は、「主要プラットフォームはすべてAIコンテンツのdentに優れた取り組みを行うだろうが、AIが現実を模倣する能力が向上するにつれて、その能力は時間とともに低下していくだろう」と投稿した。
アダム氏 と付け加えた、「私と同じように、偽メディアよりも本物のメディアを識別する方が実用的だと考える人がすでに増えている」
