L'IA pourrait amplifier la désinformation, déclare le secrétaire d'État de l'Arizona

Selon Adrian Fontes, secrétaire d'État de l'Arizona, l'intelligence artificielle (IA) pourrait amplifier la désinformation avant les prochaines élections américaines. M. Fontes a exprimé ses craintes dimanche sur le plateau de l'émission « Meet the Press » de NBC.

La déclaration de Fontes fait suite à la publication par le présidentdent sur X (anciennement Twitter) où il affirmait que « l'IA et les entreprises qui développent cette technologie vont transformer le monde, maiselles doivent d'abord gagner notre confiance» Ledent a déclaré être déterminé à tout mettre en œuvre pour promouvoir une innovation sûre et responsable. Il a exhorté les entreprises à se joindre à cet engagement.

La désinformation par l'IA est un amplificateur

Fontes se souvint de ses séances d'entraînement chez les Marines. Il expliqua que, lors des camps d'entraînement et autres formations militaires, ils devaient évaluer l'armement de leurs ennemis. Il ajouta qu'ils devaient s'entraîner autant que possible contre ces armes.

À lire également : Microsoft met en garde contre les campagnes de désinformation menées par l’IA lors des prochaines élections

Le secrétaire a comparé l'IA à des armes et a déclaré que l'IA n'est pas une arme ; il s'agit plutôt d'un amplificateur et d'un grossisseur de désinformation et de mésinformation. 

« Ce que je voulais, c’était m’assurer que nos responsables électoraux soient bien informés, que nous ayons des procédures pour gérer et traiter ce problème dans chacun de nos comtés, car nos élections sont également organisées au niveau du comté. »

Adrian Fontes

« Nous avons également organisé un exercice de simulation parmi plusieurs autres à l'intention des responsables électoraux et des médias, afin que nos partenaires médiatiques puissent savoir comment réagir et identifier la situation », a-t-il ajouté.

L'IA n'était pas le seul élément abordé ; le secrétaire, évoquant le terrorisme intérieur, a déclaré : « Le terrorisme se deficomme une menace ou une violence visant un objectif politique. C'est de cela qu'il s'agit. »

L’appel « bidon » de Joe Biden confirme la désinformation de l’IA

Les menaces potentielles que représente l'IA pour les élections ne sont pas nouvelles. Début janvier de cette année, un faux appel téléphonique automatisé, diffusé avec la voix dudent américain Joe Biden, a fait couler beaucoup d'encre dans les émissions de télévision et les articles de presse. Cet appel, soigneusement préparé, commençait par la phrase : « Quelle absurdité ! », une expression que Biden avait déjà utilisée. 

Après cette touche de personnalisation, l'appel a repris, disant :

« Voter ce mardi ne fait que renforcer les intérêts des Républicains dans leur quête pour faire réélire Donald Trump. Votre vote compte en novembre, pas ce mardi. »

Il s'agissait d'une tentative manifeste de dissuader les électeurs de voter ce jour-là. L'appel automatisé a refait surface il y a deux jours, lorsque le consultant politique Steven Kramer, à l'origine de cet appel, a été inculpé de 6 millions de dollars et de 24 chefs d'accusation.

L'amende infligée à Kramer est la première pour des infractions liées à l'intelligence artificielle générative, a déclaré la Commission fédérale des communications. Cette dernière a également proposé une amende de 2 millions de dollars contre Lingo Telecom, accusée d'avoir transmis les appels automatisés.

Bien que Lingo Telecom ait affirmé ne pas être impliquée dans la production de ces appels, les mesures prises étaient conformes aux normes du secteur et à la réglementation fédérale. Toutefois, le point préoccupant est que les appels provenaient du numéro personnel de Kathy Sullivan, ancienne présidente du Parti démocrate de l'État. 

Sullivan a écrit jeudi dans un courriel que « tenter de truquer une élection a un prix élevé », selon l’ Associated Press.

Les campagnes de désinformation sont plus abordables

L'intelligence artificielle a rendu l'escroquerie plus facile et moins coûteuse pour ceux qui souhaitent la pratiquer. Kramer, propriétaire d'une entreprise spécialisée dans les campagnes de mobilisation électorale, a déclaré avoir déboursé 500 dollars pour envoyer des appels aux électeurs afin de les sensibiliser au « problème de l'IA ». Il avait précédemment indiqué à l'Associated Press avoir payé 150 dollars à un magicien pour réaliser l'enregistrement.

À lire également : Warren Buffett met en garde contre les arnaques liées à l’IA, qui pourraient devenir un secteur en pleine croissance

Wired a révélé l'an dernier qu'il était possible de mener une campagne de désinformation par IA pour seulement 400 dollars. Le site relatait l'histoire d'un développeur qui avait utilisé des outils d'IA courants pour générer des tweets et des articles anti-russes, mais le projet visait surtout à démontrer à quel point il était facile et peu coûteux de réaliser une telle opération.

Selon le média, la personne se faisant appeler Nea Paw a conçu cette campagne pour sensibiliser le public aux dangers de l'IA et à la désinformation. Dans un courriel, Paw a déclaré :

« Je ne pense pas qu'il existe de solution miracle à ce problème, tout comme il n'existe pas de solution miracle contre les attaques de phishing, le spam ou l'ingénierie sociale. »

Des chercheurs spécialisés dans la désinformation affirment que l'IA pourrait servir à concevoir des campagnes hautement personnalisées pour amplifier la désinformation et à gérer des comptes sur les réseaux sociaux. Il convient de noter que Facebook et Instagram ont récemment bloqué des milliers de comptes liés, d'une manière ou d'une autre, aux réseaux souvent associés au mécanisme de communication du Parti communiste chinois.

Les chercheurs affirment que les faux comptes utilisent désormais des méthodes plus sophistiquées pour mener leurs campagnes de désinformation, notamment des techniques organiques pour accroître leur audience et paraître authentiques. Sans oublier les propos du légendaire investisseur Warren Buffett, qui a déclaré que les arnaques utilisant l'IA pourraient bien devenir « le secteur à la croissance la plus rapide de tous les temps » 

Les escroqueries et la désinformation électorale ont un lien : toutes deux servent à tromper les gens. Comme le dit Buffett : « Cela recèle un potentiel énorme, tant positif que négatif, et j’ignore comment cela se traduira. »

Reportage Cryptopolitan par Aamir Sheikh