OpenAI segnala un aumento dell'uso malevolo di ChatGPT da parte di gruppi cinesi

OpenAI ha rivelato che si registra un aumento dell'uso clandestino dei suoi strumenti, in particolare legato a gruppi cinesi che sfruttano la piattaforma ChatGPT per scopi malevoli.

Dall'uscita di ChatGPT nel novembre 2022, che ha ottenuto un successo immediato, sono sorte preoccupazioni sulle sue potenziali conseguenze basate sulla sua capacità di generare audio, testo, immagini e video simili a quelli umani. E OpenAI ha regolarmente pubblicato rapporti su eventuali attività malevole sulle sue piattaforme, come contenuti falsi per siti web.

OpenAI smantella 10 campagne distinte che abusano dei suoi strumenti

In un rapporto pubblicato giovedì, l'azienda con sede a San Francisco ha rivelato di aver recentemente smantellato dieci campagne distinte che sfruttavano i suoi strumenti di IA. Di queste, quattro erano organizzate da gruppi collegati alla Cina, mentre schemi su scala minore erano legati ad altri paesi.

Secondo Ben Nimmo, ricercatore principale del team di indagini di OpenAI, queste operazioni legate alla Cina hanno impiegato una vasta gamma di tattiche in molteplici contesti online.

“Stiamo osservando un kit di strumenti in espansione”, ha detto ai giornalisti.

“Alcune campagne hanno combinato operazioni di influenza, ingegneria sociale e sorveglianza, spaziando da piattaforme come TikTok e X a Reddit e Facebook.”

Nimmo.

Uno degli esempi chiave, denominato “Sneer Review,” ha utilizzato ChatGPT per pubblicare brevi post e commenti in inglese, cinese e urdu. Questi riguardavano temi come la dissoluzione dell'Agenzia statunitense per lo sviluppo internazionale, con elogi e critiche alternati alla decisione, nonché critiche a un videogioco strategico taiwanese presentate come un attacco al partito al governo della Cina.

Secondo il rapporto di OpenAI, nella maggior parte dei casi l'operazione non ha creato solo post originali ma anche risposte, facendola sembrare un dibattito “autentico”. Gli stessi gruppi hanno inoltre creato un articolo di lunga forma che affermava un ampio sdegno pubblico contro il gioco.

La “Sneer Review” ha utilizzato anche ChatGPT per redigere documenti interni e valutazioni delle prestazioni, dettagliando ogni fase dell'esecuzione della campagna. Gli analisti di OpenAI hanno scoperto che il comportamento effettivo sui social media rispecchiava da vicino tali autovalutazioni, sottolineando quanto l'IA possa ottimizzare sia l'influenza in prima linea che la gestione back-office.

Il report ha inoltre evidenziato che un'altra rete collegata alla Cina si è concentrata sulla raccolta di intelligence, fingendosi giornalisti e commentatori geopolitici. Hanno utilizzato il chatbot per creare biografie dei profili su X, tradurre comunicazioni tra cinese e inglese e persino generare messaggi indirizzati a un senatore statunitense riguardanti una nomina federale.

Gruppi di altri paesi hanno anch'essi fatto uso improprio degli strumenti di OpenAI

Oltre alle operazioni cinesi, il rapporto segnala che anche attori russi e iraniani hanno cercato di utilizzare ChatGPT per influenzare le elezioni, riflettendo le preoccupazioni sul ruolo dell'IA generativa nel plasmare l'opinione pubblica.

Nelle Filippine, un'agenzia di marketing commerciale era collegata a una campagna di spam, mentre è emerso anche uno schema di truffa nel reclutamento con legami verso la Cambogia. L'azienda ha inoltre segnalato un'altra iniziativa occupazionale con interessi nordcoreani.

Tutte queste minacce sono coincise con un rapporto precedente di febbraio, in cui OpenAI aveva individuato un'iniziativa di sorveglianza affiliata alla Cina. Questa campagna avrebbe monitorato in tempo reale le proteste occidentali, fornendo sintesi alle agenzie di sicurezza cinesi; ChatGPT ha facilitato tutto, dal debug del codice alla stesura di pitch di vendita per software di monitoraggio.

Nimmo ha indicato che la maggior parte di queste operazioni è stata rilevata e bloccata, sebbene sembrasse facessero uso di strumenti sofisticati.

«L'IA avanzata non si traduce necessariamente in risultati più efficaci», ha osservato. In effetti, i rapporti regolari sulle minacce di OpenAI suggeriscono che, sebbene i modelli generativi possano accelerare la creazione di contenuti, non garantiscono un'influenza genuina o una diffusione capillare.

In risposta a questi riscontri, OpenAI ha continuato a perfezionare i propri meccanismi di monitoraggio e applicazione. L'azienda blocca gli account collegati alle operazioni rilevate ed elimina tutti quelli coinvolti nella creazione di malware, messaggi politici automatizzati o contenuti ingannevoli.

Nell'ultima ondata di azioni, OpenAI ha sospeso account che hanno pubblicato controversie geopolitiche relative alla Cina, incluse false accuse contro attivisti in Pakistan e commenti sulle politiche tariffarie di Trump.

Nonostante i successi di OpenAI, l'azienda riconosce anche la natura ambivalente dell'IA generativa, strumento sia per l'innovazione che per la disinformazione.