OpenAI ferme les comptes ChatGPT d'un groupe iranien lié à une campagne d'influence sur l'élection américaine

OpenAI a pris des mesures décisives en bannissant un groupe de comptes ChatGPT liés à une opération d'influence iranienne. Ces comptes publiaient du matériel produit par l'IA concernant l'élection présidentielle américaine, a expliqué l'entreprise dans un article de blog. L'opération, qui comprenait des articles et des publications sur les réseaux sociaux, semblait avoir une portée limitée. 

Ce n'est pas la première fois que des acteurs affiliés à un État tentent de détourner l'utilisation de ChatGPT d'OpenAI. En mai, l'entreprise a empêché cinq tentatives différentes d'influencer le public avec de faux articles médiatiques publiés par des bots d'IA. Ces efforts font partie d'un schéma plus large dans lequel les acteurs étatiques utilisent de nouvelles technologies pour tenter de façonner les processus politiques. 

OpenAI répond rapidement pour contrer les menaces émergentes

Auparavant, de tels groupes utilisaient Facebook et Twitter comme leurs principales plateformes de réseaux sociaux. Cependant, l'IA générative est désormais utilisée pour submerger les plateformes de réseaux sociaux avec de fausses informations. En réponse à ces menaces, OpenAI a été rapide, adoptant une approche similaire au « whack-a-mole » que nous avons vu sur les plateformes de réseaux sociaux. Au fur et à mesure que les comptes liés à de telles activités sont mis au jour, ils sont immédiatement bloqués. Cela est important car l'élection présidentielle américaine de 2024 entre lentement en jeu.

L'analyse d'OpenAI du lot récent de comptes est alimentée par un rapport de Microsoft Threat Intelligence paru la semaine dernière. Le rapport a nommé le groupe parrainant ces opérations sous le nom de groupe Storm-2035, qui est impliqué dans l'ingérence dans les élections américaines depuis 2020. 

Storm-2035 est signalé comme étant un réseau iranien avec de nombreux domaines destinés à ressembler à de véritables sites d'information. Ces sites ciblent les électeurs américains et présentent du contenu polarisant concernant les candidats à la présidence, les droits des personnes homosexuelles et le conflit Israël-Hamas. 

ChatGPT génère du contenu polarisant sur divers sujets politiques

Comme dans d'autres opérations similaires, l'objectif de Storm-2035 n'est pas de soutenir une politique individuelle, mais de provoquer la controverse au sein de la population. Selon OpenAI, ce groupe était associé à cinq sites web qui se faisaient passer pour des sites d'information à la fois libéraux et conservateurs. 

Ces sites possédaient de bons noms de domaine, tels que « evenpolitics.com », et utilisaient ChatGPT pour rédiger des articles d'une certaine longueur. L'un de ces articles affirmait que le réseau social appartenant à Elon Musk, X, bloquait les tweets de l'ancien président des États-Unis, Donald Trump. 

OpenAI a identifié une douzaine de comptes X et un compte Instagram liés à Storm-2035. Ces comptes employaient ChatGPT pour générer de nouvelles déclarations politiques, qu'ils publiaient ensuite sur ces réseaux sociaux. Par exemple, un tweet impliquait faussement le changement climatique dans les « coûts accrus de l'immigration » tout en taguant la déclaration avec #DumpKamala en référence à la vice-présidente Kamala Harris.