- AIを活用したデマはグローバルな選挙を脅かし、生成AIツールがプロパガンダの到達範囲と影響を増幅しています。
- 世界中で予定されている一斉選挙により、外国および国内のアクターにとってAI駆動型デマの魅力が高まっています。
- 進化し続けるAI戦術に対抗して民主主義のプロセスを守るためには、早期検出、研究、そして国際協力を組み合わせた効果的な防御戦略が必要です。
世界中で選挙が行われる中、それらは強力な武器である人工知能（AI）を手にした外国の行為者からの進化し続ける強力な脅威に直面している。選挙への影響という領域は、2016年にロシアの誤情報キャンペーンがソーシャルメディアを通じて米国大統領選挙を標的にしたことで新たな段階に入った。その後の数年間で、中国やイランなどの国々もこれに続き、米国や世界の各地域での選挙に影響を与えるためにソーシャルメディアを使用した。2023年と2024年に近づくなかで脅威は残っているが、誤情報の影響を増幅する可能性のある生成AIや大規模言語モデルという新たな要素が加わっている。
AI駆動のプロパガンダの力
ChatGPTやより強力なGPT-4に代表される生成AIツールは、大量のテキストを迅速に、かつ様々なトーンや視点で生成することができる。これは、インターネット時代のプロパガンダに uniquely 適している。これらの技術が誤情報キャンペーンに与える具体的な影響は不確実であるものの、世界は soon にその影響力を目の当たりにすることになるだろう。
選挙シーズンが民主主義諸国を席巻しようとしている。多くの国で国民選挙が行われる。これらの選挙は、以前からソーシャルメディアを通じた影響力行使に関わってきた国々にとって極めて重要である。例えば、中国の関心は台湾、インドネシア、インド、そして多くのアフリカ諸国に及んでおり、ロシアは英国、ポーランド、ドイツ、そして欧州連合（EU）を監視している。米国は依然として様々な行為者の焦点となっている。外国の影響コストが低下するにつれて、ChatGPTのようなツールがプロパガンダ制作を手頃な価格にすることで、より多くの国がこの舞台に参加できるようになる。
選挙干渉と変化する状況
米国のすべてのサイバーセキュリティ機関の代表者が出席した最近の会議では、2024年の選挙干渉に関する期待について議論が行われた。おなじみのプレイヤーであるロシア、中国、イランに加え、新たなカテゴリである「国内の行為者」が登場した。この変化は、AI駆動の誤情報キャンペーンに関連するコストの減少に直接起因している。
コンテンツ生成を超えた課題
AIはコンテンツ作成を容易にするが、配布はプロパガンディストにとって依然として重要な課題である。フェイクアカウントは、コンテンツがバイラル（拡散）するまで投稿し、増幅する上で重要な役割を果たす。Metaなどの企業は、中国の影響力行使キャンペーンに対する最近の取り締まりで示されたように、そのようなアカウントの特定と削除能力を向上させている。しかし、誤情報は依然として軍拡競争の状態にある。ソーシャルメディアプラットフォームが変化すると、プロパガンダの発信源も適応し、しばしばTelegramやWhatsAppなどのメッセージングプラットフォームへ移行するため、検出と削除がより困難になる。中国が支配するTikTokは、AI生成のショートビデオのプラットフォームを提供し、状況をさらに複雑にしている。
生成AIツールは、大規模な低レベルのプロパガンダなど、新たな制作および配布手法を可能にする。例えば、ソーシャルメディア上で日常的な生活や興味について投稿しながら、 occasionally 政治的なコンテンツを注入するAI駆動のパーソナルアカウントを考えてみよう。これらの「ペルソナボット」は個々の影響力は最小限だが、大量に展開されると集団的に大きな影響を与えることができる。
ステロイド剤投与されたようなAIの誤情報
ロシアや中国などの選挙干渉に関与する軍事組織は、2016年当時の戦略を超えた洗練された戦術を策定している可能性が高い。これらの国々は、拡大する前に、しばしば小規模な国々でサイバー攻撃や情報作戦をテストする。これらの戦術を早期に認識し、カタログ化することは、新たな誤情報キャンペーンに対抗するために重要である。
AI駆動の誤情報キャンペーンが高度化するにつれて、米国は台湾などの他の国々でAIが生み出したプロパガンダを積極的に指紋識別し、特定しなければならない。台湾では、ディープフェイクの音声録音によって政治候補者が中傷されている。早期の検出と理解がなければ、これらのキャンペーンは国内に到達するまで見逃される可能性がある。
研究と防衛の必要性
最近のいくつかの選挙では、AI駆動の誤情報に関する重大な問題なく進行したが、準備のために早期の認識と研究が不可欠である。研究者は、効果的な防御戦略を開発するために、外国のキャンペーンで採用された技術を研究しなければならない。サイバーセキュリティコミュニティは、攻撃方法とその有効性を共有することが、堅牢な防御システムを構築するために重要であると認識している。
選挙におけるAI駆動の誤情報の脅威は増大しており、主体的で情報に基づいたアプローチが必要となっている。この新たな選挙干渉の時代に入るにあたり、各国は警戒を怠らず、国際的な協力を促進し、AI駆動のプロパガンダに対抗できる防御メカニズムを開発しなければならない。これらの進化し続ける戦術を早く理解すればするほど、民主主義プロセスの整合性をよりよく保護できる。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
グローリー・カブル
グロリー氏は、AIツールとリサーチに精通した非常に知識豊富なジャーナリストです。AIに情熱を持ち、同分野に関する複数の記事を発表しています。人工知能、機械学習、ディープラーニングの最新動向を常に把握し、定期的に執筆活動を行っています。
