Montée des préoccupations concernant l'impact de l'IA sur les élections en 2024

Le monde se prépare à une série d'élections dans divers pays, avec au moins 65 élections prévues dans 54 nations. Ces élections devraient impliquer plus de deux milliards d'électeurs. 

Dans ce contexte de surge démocratique, les préoccupations concernant le rôle de l'intelligence artificielle (IA) dans la façonnement des résultats électoraux s'intensifient. Bien que l'impact potentiel de la désinformation générée par l'IA soit une source de préoccupation, plusieurs facteurs atténuent actuellement son influence.

Désinformation générée par l'IA : une préoccupation croissante

Ces dernières années, des incidents ont mis en lumière les risques potentiels de la désinformation générée par l'IA. Par exemple, une vidéo deepfake du président ukrainien Volodymyr Zelensky déclarant supposément la reddition de son pays, une photo générée par l'IA d'une explosion au Pentagone, et de faux enregistrements audio prétendant démontrer une manipulation électorale ont tous circulé en ligne. 

Ces exemples soulignent la crainte que l'IA puisse être utilisée pour manipuler la perception du public pendant les cycles électoraux.

Un aspect rassurant est l'impact de courte durée de la plupart des désinformations générées par l'IA. Ces fausses narrations ont été rapidement démenties dans les cas mentionnés et n'ont pas gagné en traction dans les sources d'information autorisées. Une telle désinformation doit s'intégrer dans des narrations plus larges et plus convaincantes pour être véritablement dangereuse.

Le besoin d'opérateurs humains qualifiés

Bien que l'IA puisse générer du contenu convaincant, elle manque d'autonomie pour créer, diffuser ou soutenir des histoires sans opérateurs humains qualifiés. Ces individus possèdent des connaissances en politique, actualités et distribution ; leur expertise est essentielle pour élaborer et diffuser des narrations persuasives.

Tout comme de nombreuses campagnes politiques humaines échouent, celles alimentées par l'IA sont susceptibles de présenter des lacunes sans la guidance d'individus qualifiés. Néanmoins, nous devons rester vigilants alors que les capacités de l'IA continuent d'évoluer.

Le paysage médiatique contemporain est fragmenté, les utilisateurs se dispersant sur divers réseaux sociaux et plateformes. L'essor des communautés de niche sur des plateformes comme Threads, BlueSky et Mastodon, couplé à la diversification des utilisateurs de Facebook vers Instagram et TikTok, restreint davantage la portée de la désinformation. 

Cette fragmentation pose des défis pour détecter et expliquer de tels phénomènes, mais confine leur impact à de petits coins d'Internet.

Protection naturelle contre la désinformation par IA

Ces trois facteurs – la nature éphémère de la plupart des fausses informations générées par l'IA, le besoin d'alignement avec des narrations plus larges et la fragmentation du paysage de l'information – offrent une certaine protection « naturelle » contre les dommages potentiels de l'IA dans les élections. 

Cependant, se fier uniquement à ces caractéristiques ne suffit pas. Une approche proactive pour protéger la démocratie et les élections est impérative.

La personnalisation technologique excessive dans les campagnes électorales, qu'il s'agisse d'IA, de médias sociaux ou de publicités payantes, devrait être limitée. Bien que les électeurs cherchent à comprendre ce que les politiciens peuvent offrir individuellement, ils souhaitent également une transparence sur les politiques offertes à tous. 

Les campagnes politiques devraient s'abstenir de déployer des milliers d'agents IA pour adapter les messages aux électeurs individuels, car cela pourrait compromettre le processus démocratique.

S'assurer que les individus sont bien ceux qu'ils prétendent être est crucial dans le domaine numérique. Bien que l'anonymat joue un rôle dans le vote, la transparence concernant les identités en ligne est essentielle en ce qui concerne les questions électorales. 

La confiance est primordiale, et les citoyens devraient avoir les moyens de vérifier l'authenticité des voix en ligne. Le contenu généré par l'IA ne devrait pas être utilisé pour tromper ou masquer les identités.

Le rôle des plateformes de réseaux sociaux

En tant que principaux vecteurs de diffusion de l'information, les plateformes de médias sociaux doivent contribuer activement à la lutte contre la désinformation générée par l'IA. Bien que toutes les plateformes ne deviennent pas des acteurs majeurs de l'IA générative, elles jouent toujours un rôle vital dans la façonnement du discours public. Ces plateformes devraient aider les utilisateurs à identifier le contenu généré par l'IA, surveiller et empêcher la manipulation à grande échelle des comptes et des commentaires, limiter le harcèlement coordonné par l'IA, et faciliter la recherche et les audits de leurs systèmes.

Pour faire face à la menace posée par la désinformation générée par l'IA, la société doit prendre une position collective en faveur de la démocratie. La désinformation émerge souvent de figures influentes, contribuant à la polarisation et à la fragmentation. 

Alors que les leaders donnent l'exemple, la société suit le mouvement. Il est donc crucial d'établir des normes plus élevées et de condamner sans équivoque les politiciens et les campagnes qui exploitent l'IA pour induire les citoyens en erreur.