Désinformation générée par l'IA – La campagne covert de Pékin pour manipuler l'élection de Taïwan dévoilée

Dans une révélation mettant en lumière les aspects sombres de l'interférence électorale numérique, l'Institut australien de politique stratégique (ASPI) a découvert une campagne covert orchestrée par le Parti communiste chinois (PCC) pour manipuler la récente élection de Taïwan par une désinformation générée par l'IA. Les tactiques insidieuses employées comprenaient l'utilisation d'avatars générés par l'IA, de documents divulgués et de faux tests de paternité, soulevant des préoccupations quant à l'impact mondial potentiel de telles campagnes de désinformation.

Campagne covert chinoise dévoilée

L'enquête de l'ASPI a exposé les activités néfastes de Spamouflage, un réseau lié au PCC, utilisant des avatars générés par l'IA sur des plateformes comme X/Twitter, Facebook, Medium et des blogs taïwanais. Ces comptes ciblaient les candidats du Parti progressiste démocratique (PDP), les accusant de corruption et de détournement de fonds pour influencer l'opinion publique contre eux. Le lien du réseau avec les forces de l'ordre et les agences gouvernementales chinoises a encore compliqué la situation.

Un deuxième acteur de la menace, identifié dans le rapport T3 2023 de Meta, s'est livré à des opérations sophistiquées d'influence cybernétique. Cet acteur a diffusé des documents présumés divulgués du gouvernement taïwanais et un faux test de paternité ADN impliquant le candidat présidentiel du PDP, Lai Ching-te. La complexité de ces campagnes, y compris l'utilisation de contenu généré par l'IA, a marqué un développement préoccupant dans les opérations d'influence de la Chine.

Le rapport de l'ASPI éclaire les conséquences à grande échelle émanant des campagnes de désinformation de la Chine pilotées par l'intelligence artificielle, dépassant les confins de Taïwan. Notamment, le réseau Spamouflage, outre l'exercice d'influence à Taïwan, a été identifié en train de diffuser du contenu dénigrant le Bharatiya Janata Party (BJP) et le gouvernement indien, avec un focus spécifique sur la région de Manipur en Inde. Cette divulgation dévoile un modèle plausible d'interférence potentielle du Parti communiste chinois (PCC) dans les élections futures à l'échelle mondiale.

Unité démocratique face à la désinformation générée par l'IA

Le rapport souligne la responsabilité des plateformes comme X/Twitter en matière d'assurance de la sécurité en ligne pendant les élections, citant des lacunes dans la suspension de comptes associés à des réseaux de comportement inauthentique coordonné basés en Chine. Il appelle également les entreprises occidentales d'IA générative, telles que Synthesia et D-ID, à exercer une diligence raisonnable et la transparence pour prévenir la mauvaise utilisation de leurs produits, exhortant OpenAI à suivre l'exemple des plateformes de réseaux sociaux en publiant des rapports sur les menaces liées à la mauvaise utilisation.

Les remarques conclusives du rapport offrent une position prudente, sonnant l'alarme concernant les investissements étrangers dans l'industrie de l'IA naissante de la Chine. Le rapport préconise une réévaluation par les gouvernements et les entreprises occidentales de leur engagement dans ce secteur. Le potentiel intrinsèque à double usage des produits d'IA, en particulier dans le domaine des opérations de guerre politique, nécessite un appel à une surveillance accrue et, potentiellement, l'imposition d'une responsabilité légale sur les entreprises d'IA qui pourraient involontairement faciliter l'interférence électorale.

Alors que les démocraties se préparent pour les prochaines élections, le rapport de l'ASPI encourage à renforcer les liens avec Taïwan et à adopter un front uni contre la désinformation. Le partage de renseignements sur les acteurs de la menace du Parti communiste chinois (PCC), l'enquête sur les comptes de réseaux sociaux ciblant plusieurs régions et la collaboration sur les efforts de contre-désinformation pourraient renforcer les défenses démocratiques.

Dans un monde de plus en plus dépendant des plateformes numériques, la révélation des campagnes sophistiquées de désinformation générées par l'IA en Chine sert de rappel saisissant des défis auxquels les démocraties sont confrontées pour préserver l'intégrité de leurs processus électoraux. La charge ne repose pas uniquement sur les gouvernements, mais aussi sur les entreprises technologiques et la communauté mondiale dans son ensemble, qui doivent lutter collectivement contre cette menace en évolution.