OpenAI chiude gli account ChatGPT di un gruppo iraniano per la campagna di influenza sulle elezioni statunitensi

OpenAI ha intrapreso un'azione decisa bandendo un cluster di account ChatGPT collegati a un'operazione di influenza iraniana. Questi account pubblicavano materiale prodotto dall'IA riguardante le elezioni presidenziali degli Stati Uniti, come spiegato dall'azienda in un post sul blog. L'operazione, che conteneva articoli e post sui social media, sembrava avere una portata limitata. 

Questa non è la prima volta che attori affiliati allo stato hanno cercato di abusare di ChatGPT di OpenAI. A maggio, l'azienda ha impedito cinque tentativi diversi di influenzare il pubblico con articoli di media falsi pubblicati da bot IA. Questi sforzi fanno parte di un modello più ampio in cui gli attori statali utilizzano nuove tecnologie per cercare di plasmare i processi politici. 

OpenAI risponde rapidamente per contrastare le minacce emergenti

In precedenza, tali gruppi utilizzavano Facebook e Twitter come loro principali piattaforme di social media. Tuttavia, l'IA generativa viene ora utilizzata per sopraffare le piattaforme di social media con informazioni false. In risposta a queste minacce, OpenAI è stata rapida, simile all'approccio "whack-a-mole" che abbiamo visto nelle piattaforme di social media. Man mano che gli account collegati a tali attività vengono alla luce, vengono immediatamente bloccati. Questo è importante poiché le elezioni presidenziali degli Stati Uniti del 2024 stanno lentamente entrando in scena.

L'analisi di OpenAI del recente batch di account è alimentata da un rapporto di Microsoft Threat Intelligence uscito la scorsa settimana. Il rapporto ha nominato il gruppo che sponsorizza queste operazioni come il gruppo Storm-2035, che è stato coinvolto nell'interferire con le elezioni statunitensi dal 2020. 

Si ritiene che Storm-2035 sia una rete iraniana con numerosi domini destinati a somigliare a veri siti di notizie. Questi siti mirano agli elettori americani e presentano contenuti polarizzanti relativi ai candidati presidenziali, ai diritti dei gay e al conflitto Israele-Hamas. 

ChatGPT genera contenuti polarizzanti su vari argomenti politici

Come in altre operazioni simili, lo scopo di Storm-2035 non è sostenere una singola politica ma causare controversie tra la popolazione. Secondo OpenAI, il gruppo era associato a cinque siti web che si presentavano sia come siti di notizie liberali che conservatori. 

Questi siti avevano buoni nomi di dominio, come "evenpolitics.com", e utilizzavano ChatGPT per scrivere articoli di una certa lunghezza. Uno di questi articoli affermava che la rete di social media di proprietà di Elon Musk, X, stava bloccando i tweet dell'ex presidente degli Stati Uniti, Donald Trump. 

OpenAI ha identificato una dozzina di account su X e un account Instagram collegati a Storm-2035. Questi account hanno utilizzato ChatGPT per generare nuove dichiarazioni politiche e poi le hanno pubblicate su questi canali social. Ad esempio, un tweet ha falsamente implicato il cambiamento climatico nei 'costi aumentati dell'immigrazione', taggando la dichiarazione con #DumpKamala in riferimento alla vicepresidente Kamala Harris.