OpenAI ferme les comptes ChatGPT d'un groupe iranien soupçonné de campagne d'influence sur les élections américaines

OpenAI a pris des mesures décisives en bannissant plusieurs comptes ChatGPT liés à une opération d'influence iranienne. Ces comptes diffusaient des contenus produits par l'IA concernant l'électiondentaméricaine, comme l'a expliqué l'entreprise dans un article de blog. L'opération, qui comprenait des articles et des publications sur les réseaux sociaux, semblait avoir une portée limitée. 

Ce n'est pas la première fois que des acteurs étatiques tentent d'utiliser ChatGPT d'OpenAI à mauvais escient. En mai, l'entreprise a déjoué cinq tentatives d'influence sur l'opinion publique par le biais de faux articles de presse publiés par des robots d'intelligence artificielle. Ces agissements s'inscrivent dans une tendance plus large où des acteurs étatiques utilisent les nouvelles technologies pour tenter d'influencer les processus politiques. 

OpenAI réagit rapidement pour contrer les menaces émergentes

Auparavant, ces groupes utilisaient Facebook et Twitter comme principales plateformes de médias sociaux. Cependant, l'intelligence artificielle générative est désormais employée pour inonder ces plateformes de fausses informations. Face américaine de 2024dentapproche à grands pas. 

L'analyse réalisée par OpenAI sur le récent lot de comptes s'appuie sur un rapport de Microsoft Threat Intelligence publié la semaine dernière. Ce rapport identifie le groupe Storm-2035 comme commanditaire de ces opérations. Ce groupe est impliqué dans des ingérences dans les élections américaines depuis 2020. 

Storm-2035 serait un réseau iranien possédant de nombreux domaines conçus pour ressembler à de véritables sites d'information. Ces sites ciblent l'électorat américain et présentent un contenu clivant concernant les candidats à ladent, les droits des personnes LGBTQ+ et le conflit israélo-palestinien. 

ChatGPT génère du contenu polémique sur divers sujets politiques

Comme dans d'autres opérations similaires, l'objectif de Storm-2035 n'est pas de soutenir une politique particulière, mais de susciter la controverse au sein de la population. Selon OpenAI, le groupe était associé à cinq sites web se faisant passer pour des sites d'information à la fois libéraux et conservateurs. 

Ces sites possédaient de bons noms de domaine, comme « evenpolitics.com », et utilisaient ChatGPT pour rédiger des articles d'une certaine longueur. L'un de ces articles affirmait que le réseau social d'Elon Musk, X, bloquait les tweets de l'anciendentaméricain, Donald Trump. 

OpenAI adentune douzaine de comptes X et un compte Instagram liés à Storm-2035. Ces comptes utilisaient ChatGPT pour générer de nouvelles déclarations politiques, qu'ils publiaient ensuite sur ces réseaux sociaux. Par exemple, un tweet impliquait faussement le changement climatique dans « l'augmentation des coûts de l'immigration », tout en utilisant le hashtag #DumpKamala en référence à la vice-dent Kamala Harris.