L’intelligence artificielle est utilisée pour manipuler les élections : OpenAI tire la sonnette d’alarme

Le rapport d'OpenAI indique que ses modèles sont utilisés pour influencer les élections. Il précise également avoir démantelé plus de 20 opérations qui s'appuyaient sur son modèle d'IA pour mener de telles activités malveillantes. 

Le rapport, intitulé « Mise à jour sur la lutte contre les utilisations trompeuses de l'IA », a également souligné la nécessité de faire preuve de vigilance lors de l'interaction avec des contenus politiques.

Le document a mis en évidence une tendance : les modèles d’OpenAI deviennent un outil majeur pour perturber les élections et diffuser de la désinformation politique. Des acteurs malveillants, souvent parrainés par des États, utilisent ces modèles d’IA pour diverses activités, notamment la création de contenu pour de faux profils sur les réseaux sociaux et la rétro-ingénierie de logiciels malveillants.

L'influence croissante d'OpenAI dans les élections et la politique liées à l'IA

Fin août, OpenAI a déjoué une campagne iranienne qui diffusait du contenu sur les réseaux sociaux afin d'influencer l'opinion publique concernant les élections américaines, la politique vénézuélienne, le conflit de Gaza et Israël. L'organisation a également signalé que certains comptes, qui ont depuis été suspendus, publiaient des informations sur les élections rwandaises. 

L'enquête a également révélé qu'une entreprise israélienne était impliquée dans des tentatives de manipulation des résultats électoraux en Inde. 

Cependant, OpenAI a constaté que ces activités n'ont pas suscité un engouement viral ni attiré un large public. Les publications sur les réseaux sociaux liées à ces campagnes ont eu tracminime. Cela pourrait indiquer la difficulté d'influencer l'opinion publique par le biais de campagnes de désinformation utilisant l'IA. 

Historiquement, les campagnes politiques sont souvent alimentées par la désinformation des camps en lice. Cependant, l'avènement de l'IA représente une menace différente pour l'intégrité des systèmes politiques. Le Forum économique mondial (FEM) a déclaré que 2024 serait une année historique pour les élections, avec 50 pays organisant des scrutins.  

Les logiciels de manipulation de l'information (LLM) utilisés au quotidien ont déjà la capacité de créer et de diffuser de la désinformation plus rapidement et de manière plus convaincante.

Réglementation et efforts de collaboration

Face à cette menace potentielle, OpenAI a déclaré collaborer avec les parties prenantes concernées en partageant des informations sur les menaces. L'entreprise estime que cette approche collaborative permettra de contrôler efficacement les canaux de désinformation et de promouvoir une utilisation éthique de l'IA, notamment dans le contexte politique. 

OpenAI déclare : « Malgré le manque d'engagement significatif du public résultant de cette opération, nous prenons au sérieux toute tentative d'utiliser nos services dans des opérations d'influence étrangères. » 

La société spécialisée en IA a également souligné la nécessité de mettre en place des défenses de sécurité robustes pour empêcher les cyberattaques menées par des États, qui utilisent l'IA pour créer des campagnes en ligne trompeuses et perturbatrices. 

Le Forum économique mondial a également souligné la nécessité de mettre en place une réglementation en matière d'IA, déclarant : « Les accords internationaux sur les normes interopérables et les exigences réglementaires de base joueront un rôle important pour favoriser l'innovation et améliorer la sécurité de l'IA. » 

L’élaboration de cadres efficaces nécessite des partenariats stratégiques entre des entreprises technologiques telles qu’OpenAI, le secteur public et les acteurs privés, ce qui contribuera à la mise en œuvre de systèmes d’IA éthiques.