L'Institut australien de politique stratégique (ASPI) a révélé au grand jour les aspects les plus obscurs de l'ingérence numérique dans les élections taïwanaises. Il a mis au jour une campagne secrète orchestrée par le Parti communiste chinois (PCC) visant à manipuler les récentes élections taïwanaises grâce à la désinformation générée par l'intelligence artificielle. Parmi les tactiques insidieuses employées figuraient l'utilisation d'avatars créés par l'IA, de documents divulgués et de faux tests de paternité, ce qui soulève des inquiétudes quant à l'impact mondial potentiel de telles campagnes de désinformation.
Campagne secrète chinoise dévoilée
L'enquête de l'ASPI a mis au jour les activités néfastes de Spamouflage, un réseau lié au PCC, qui utilisait des avatars générés par IA sur des plateformes telles que X/Twitter, Facebook, Medium et des blogs taïwanais. Ces comptes ciblaient les candidats du Parti démocrate progressiste (PDP), les accusant de corruption et de détournement de fonds afin d'influencer l'opinion publique à leur encontre. Les liens du réseau avec les forces de l'ordre et les agences gouvernementales chinoises ont encore compliqué la situation.
Un second acteur malveillant,dentdans le rapport du troisième trimestre 2023 de Meta, s'est livré à des opérations sophistiquées de cyberinfluence. Cet acteur a diffusé de prétendus documents confidentiels du gouvernement taïwanais et un faux test de paternité ADN concernant Lai Ching-te, candidat du DPP à ladent. La complexité de ces campagnes, notamment l'utilisation de contenus générés par l'IA, constitue une évolution préoccupante des opérations d'influence menées par la Chine.
Le rapport de l'ASPI met en lumière les conséquences considérables des campagnes de désinformation chinoises, alimentées par l'intelligence artificielle et dépassant largement les frontières de Taïwan. Notamment, le réseau Spamouflage, outre son influence à Taïwan, a étédentdiffusant des contenus dénigrant le Bharatiya Janata Party (BJP) et le gouvernement indien, en particulier dans la région du Manipur, en Inde. Cette révélation dévoile un modèle plausible d'ingérence potentielle du Parti communiste chinois (PCC) dans les prochaines élections à l'échelle mondiale.
L'unité démocratique face à la désinformation générée par l'IA
Le rapport souligne la responsabilité des plateformes comme Twitter dans la garantie de la sécurité en ligne pendant les élections, pointant du doigt leurs lacunes en matière de suspension des comptes liés aux réseaux de diffusion de contenus inauthentiques coordonnés basés en Chine. Il appelle également les entreprises occidentales d'intelligence artificielle générative, telles que Synthesia et D-ID, à faire preuve de diligence raisonnable et de transparence afin de prévenir toute utilisation abusive de leurs produits, et exhorte OpenAI à suivre l'exemple des plateformes de médias sociaux en publiant des rapports sur les menaces liées à ces utilisations abusives.
Les conclusions du rapport adoptent une position prudente et tirent la sonnette d'alarme concernant les investissements étrangers dans le secteur en plein essor de l'IA en Chine. Le rapport préconise une réévaluation, par les gouvernements et les entreprises occidentales, de leur engagement dans ce secteur. Le potentiel de double usage inhérent aux produits d'IA, notamment dans le domaine des opérations de guerre politique, exige un renforcement de la surveillance et, potentiellement, l'imposition d'une responsabilité juridique aux entreprises d'IA susceptibles de faciliter, même involontairement, l'ingérence électorale.
Alors que les démocraties se préparent aux prochaines élections, le rapport de l'ASPI encourage le renforcement des liens avec Taïwan et l'adoption d'un front uni contre la désinformation . Le partage de renseignements sur les acteurs malveillants du PCC, l'enquête sur les comptes de médias sociaux ciblant plusieurs régions et la collaboration dans les efforts de lutte contre la désinformation pourraient renforcer les défenses démocratiques.
Dans un monde de plus en plus dépendant des plateformes numériques, la révélation des campagnes de désinformation sophistiquées menées par l'IA en Chine rappelle brutalement les défis auxquels les démocraties sont confrontées pour préserver l'intégrité de leurs processus électoraux. Il incombe non seulement aux gouvernements, mais aussi aux entreprises technologiques et à la communauté internationale dans son ensemble de lutter collectivement contre cette menace en constante évolution.
