メタ、米大統領選が近づく中ロシアのAI脅威を警告

Metaは最近のセキュリティレポートで、ロシアが米国大統領選挙に関するオンライン詐欺キャンペーンに生成型人工知能（AI）ツールを使用していると指摘した。同社は、キャンペーンを阻止したため、その取り組みの大半は失敗に終わったと主張している。.

Meta社によると、生成AI戦略は最小限の生産性と利益しかもたらさなかったという。これは、同社がプラットフォーム上で協調的不正行為（CIB）を検知し、取り締まることができたためだ。.

メタはロシアを政治的影響力キャンペーンの主な供給源として特定してdent

Meta Adversarial Threat Reportでは、 第2四半期のdentになりました。2017年以降、ロシアは39件の秘密作戦を実行しており、イランと中国はそれぞれ30件と11件で2位と3位につけています。

これらのロシアのキャンペーンは偽のアカウントやページを多用しており、その中核的な戦術の一つは複数のアカウントを取得することでした。内容から見ると、2022年のロシアによるウクライナ侵攻以来、それらはすべて同じメッセージ、つまり侵攻の正当化を広めてきたようです。.

Metaは、11月のdent選挙が近づくにつれ、今後数ヶ月で米国ユーザーを標的としたキャンペーンがさらに増加すると予測している。これらのキャンペーンは、反ウクライナのメッセージを拡散し、ウクライナを支持する候補者を攻撃する可能性が高い。.

それはこう言った。

「今から11月の米国選挙までの間、ロシアを拠点とする活動によって、ウクライナへの支援に反対する候補者を支持する論評が拡散し、ウクライナ防衛への支援を主張する人々を批判すると予想している。」

これらの欺瞞キャンペーンでは、根強い脅威とAIの多用が見られるものの、Metaは、このような悪意のある活動を検知・防止する非常に効果的な方法を開発したと主張しています。同社は投稿内容ではなく、アカウントの行動パターンに焦点を当てることで、自動化されたアクションをより効果的に検知できるようになっています。.

ロシアの選挙介入の歴史

Metaが悪質な政治的影響力キャンペーンの制限に積極的に取り組んでいるのは驚くべきことではありません。同社は、プラットフォーム上でそのようなキャンペーンを防止または削除しなかったとして、規制当局から非難を浴びてきました。今年5月、欧州連合（EU）はMetaが選挙の公正性に関する規則を遵守していないとして調査を開始しました。.

一方、ロシアは、特に選挙期間中に、ライバル関係にある大国に対する影響力行使キャンペーンを支援してきた歴史がある。ロシアは、TumblrやPayPalなどのアプリを含むあらゆるソーシャルメディアプラットフォームを通じたキャンペーンを通じて、2016年の米国大統領選挙の結果に影響を与えたと非難されている。.

Googleを含むあらゆるプラットフォーム上の数百万件のソーシャルメディア投稿を分析した調査によると、ロシア政府は複数の工作員を通じて、米国の選挙プロセスに関する偽情報を拡散し、選挙プロセスを妨害しようとしていたことが明らかになった。このキャンペーンを主導していたのは、多くの人からロシアのトロールファームとみなされているインターネット・リサーチ・エージェンシー（IRA）というグループであるとdentされた。.

あらゆる形態のコンテンツ生成を容易にする生成AI技術の登場により、今回の選挙では影響力行使キャンペーンへのAI利用が急増するのではないかと懸念されています。これまでに、複数のセキュリティ専門家がAI利用の事例をdentしています。しかしながら、候補者同士でさえ、互いのAI利用を非難し合っています。.