AI生成の誤情報 – 台湾の選挙操作を目的とした北京の秘密工作が明らかに

デジタル選挙干渉の暗黒面を浮き彫りにする発見として、オーストラリア戦略政策研究所（ASPI）は、中国共産党（CCP）がAI生成の誤情報を通じて台湾の最近の選挙を操作するために仕掛けた秘密工作を解明しました。AI生成のアバター、漏洩した文書、偽の親子鑑定書の使用など、悪意のある戦術が採用され、このような誤情報キャンペーンの潜在的な世界的影響について懸念が高まっています。

中国の秘密工作が明らかに

ASPIの調査は、SpamouflageというCCP関連のネットワークが、X/Twitter、Facebook、Medium、台湾のブログなどのプラットフォームでAI生成のアバターを利用した悪辣な活動を暴きました。これらのアカウントは、進歩党（DPP）の候補者を狙い、腐敗や横領を非難して世論を彼らに不利に動かそうとしました。このネットワークが中国の法執行機関や政府機関とつながっていることは、状況をさらに複雑にしました。

Metaの2023年第3四半期レポートで特定されたもう一つの脅威アクターは、洗練されたサイバー影響作戦に従事していました。このアクターは、 alleged な台湾政府文書と、DPPの大統領候補である赖清徳氏に関する偽のDNA親子鑑定書を拡散しました。AI生成コンテンツの使用を含むこれらのキャンペーンの複雑さは、中国の影響作戦における懸念すべき発展を示しています。

ASPIの報告書は、人工知能に駆動された中国の誤情報キャンペーンが台湾の枠を超えて及ぼす広範な影響を浮き彫りにしています。特に、Spamouflageネットワークは台湾での影響力行使に加え、インドのバラティヤ・ジャナタ党（BJP）とインド政府、特にインドのマニプル地域を貶めるコンテンツを拡散していることが確認されています。この開示は、中国共産党（CCP）が将来の選挙に世界的規模で干渉するための可能性のあるモデルを明らかにしています。

AI生成の誤情報に対する民主主義の団結

報告書は、X/Twitterなどのプラットフォームが選挙中のオンライン安全性を確保する責任を強調し、中国ベースの協調的偽装行動ネットワークに関連するアカウントの停止における短所を指摘しています。また、SynthesiaやD-IDなどの西洋の生成AI企業に対し、製品の悪用防止のために十分な注意と透明性を行使するよう呼びかけ、OpenAIに対し、ソーシャルメディアプラットフォームの先例に従って悪用に関する脅威レポートの公開を求めています。

報告書の結論的な見解は、中国の急成長するAI産業への外国投資に関する警告的な立場を示し、警鐘を鳴らしています。報告書は、西洋の政府や企業がこのセクターとの関与を再評価することを提唱しています。特に政治戦争作戦の分野におけるAI製品の内在的なデュアルユース（軍民両用）の可能性は、AI企業が意図せず選挙干渉を容易にする場合、より高い審査と法的責任の課容疑を必要とすることを示しています。

民主主義国が今後の選挙に備える中、ASPIの報告書は台湾との関係強化と、誤情報に対する統一戦線の採用を促しています。中国共産党（CCP）の脅威アクターに関する情報の共有、複数の地域を対象とするソーシャルメディアアカウントの調査、および誤情報対策への協力により、民主主義の防衛を強化することができます。

デジタルプラットフォームへの依存が高まる世界において、中国の洗練されたAI生成の誤情報キャンペーンの暴露は、民主主義国が選挙プロセスの整合性を維持する上で直面する課題の厳しい reminder となっています。この進化し続ける脅威に対抗する責務は、政府だけでなく、テック企業やより広いグローバルコミュニティにもあり、集団的に対処する必要があります。