米国選挙接近に伴い、MetaがロシアのAI脅威を警告

Metaは最近のセキュリティレポートで、ロシアが米国選挙に関するオンライン欺瞞キャンペーンに生成型人工知能（AI）ツールを使用していると述べています。このテックジャイアントは、キャンペーンを阻止したため、ほとんどの試みは失敗に終わったと主張しています。

Metaによると、生成AI戦略は生産性と利益の面で最小限の成果しかもたらしていません。これは、同社がプラットフォーム上で協調的偽装行動（CIB）を検出して抑制できたためです。

Meta、ロシアを政治的インフルエンザキャンペーンの主要な発生源として特定

第2四半期メタ敵対的脅威レポートによると、そのプラットフォーム上のCIB（協調的偽装行動）キャンペーンの大部分、特にFacebookとInstagram上でのものはロシアに起源を持つことが特定されました。2017年以来、同国は39回の秘密作戦を担当しており、イランと中国はそれぞれ30回と11回で2位、3位となっています。

これらのロシアのキャンペーンはフェイクアカウントやページに大きく依存しており、その中核的な戦術の一つは複数のアカウントを取得することでした。コンテンツ面では、2022年のウクライナ侵攻以降、ロシアは侵攻を正当化するという同じメッセージを宣伝してきたように見えます。

Metaは現在、11月の大統領選挙が近づくなか、今後数ヶ月以内に米国ユーザーを対象としたより多くのキャンペーンが表面化すると予測しています。これらのキャンペーンは反ウクライナメッセージを広め、ウクライナを支持する候補者を攻撃する可能性があります。

同社は次のように述べています：

「米国11月の選挙まで、ウクライナへの支援に反対する候補者を支持するコメントを促進し、支援を主張する候補者を批判するロシア発のオペレーションを期待しています。」

これらの欺瞞的キャンペーンにおける持続的な脅威とAIの多用にもかかわらず、Metaはこのような悪意のある活動を検出し防止するための非常に効果的な方法を開発したと主張しています。同社は投稿のコンテンツではなくアカウントの行動パターンに焦点を当てることで、自動化されたアクションをより良く検出可能にしています。

ロシアの選挙干渉の歴史

悪意のある政治的インフルエンザキャンペーンを制限するMetaの積極的な姿勢は驚くべきものではありません。同社は、プラットフォームからそのようなキャンペーンを防止または削除しなかったことで規制当局から非難を受けてきました。今年5月、欧州連合（EU）はMetaが選挙の健全性に関する規則を遵守しなかったことに対する調査を開始しました。

一方、ロシアには特に他国の選挙期間中に競合する世界大国に対するインフルエンザキャンペーンを支援する歴史があります。同国は、TumblrやPayPalなどのアプリを含むすべてのソーシャルメディアプラットフォームを通じてキャンペーンを行うことで、2016年米国選挙の結果に影響を与えたとして非難を受けています。

Googleを含むすべてのプラットフォームでの数百万のソーシャルメディア投稿を分析した研究では、ロシア政府が複数の要員を通じて米国の選挙プロセスに関する誤情報を拡散し、それを弱体化させようとしたことが示されました。この研究では、ロシアのトロルファームと見なされているインターネットリサーチエージェンシー（IRA）がキャンペーンを主導していると特定されました。

生成AI技術の登場により、あらゆる形式のコンテンツ生成が容易になるにつれ、これらの技術がインフルエンザキャンペーンに使用される可能性が今回の選挙で非常に高くなるのではないかと懸念されています。これまでに、いくつかのセキュリティ専門家によってその使用例がいくつか特定されています。しかし、政治候補者同士が互いにAIの使用を非難し合う事態にもなっています。