OpenAI sospende gli account collegati alla Cina che utilizzano ChatGPT come strumento di sorveglianza

OpenAI, la principale startup americana di intelligenza artificiale, ha appena bannato diversi account su ChatGPT, accusandoli di essere coinvolti nello sviluppo di uno strumento di sorveglianza. 

Secondo un rapporto aziendale pubblicato nel febbraio 2025, gli account sospesi avrebbero legami con la Cina. Questi account avrebbero utilizzato i modelli di OpenAI per generare descrizioni dettagliate di uno strumento di ascolto dei social media, che, a loro dire, veniva utilizzato per fornire feedback in tempo reale sulle proteste in Occidente ai servizi di sicurezza cinesi. 

Gli account bannati avevano anche trovato un modo per utilizzare i modelli di OpenAI per eseguire il debug del codice apparentemente destinato a implementare tale strumento. 

Perché la Cina è sospettata 

OpenAI ha messo in atto delle politiche per impedire l'uso dell'intelligenza artificiale per il monitoraggio delle comunicazioni o la sorveglianza non autorizzata di individui, comprese le attività svolte da o per conto di governi che cercano di sopprimere le libertà e i diritti personali.

OpenAI è stata in grado didentgli account in questione sulla base di modelli comportamentali, tra le altre cose. Tra le attività per cui gli account avrebbero utilizzato i modelli di OpenAI figuravano l'assistenza nell'analisi di documenti, la generazione di proposte di vendita, la descrizione di strumenti per il monitoraggio dell'attività sui social media e la ricerca di attori e argomenti politici.

Si sospetta che gli account abbiano origini cinesi poiché le loro attività si sono svolte principalmente durante l'orario lavorativo della Cina continentale e gli account stessi hanno attivato i modelli di OpenAI in lingua cinese. 

OpenAI ha anche scoperto che i responsabili degli account utilizzavano gli strumenti in modo coerente con la richiesta manuale piuttosto che con l'automazione. In alcuni casi, l'azienda di intelligenza artificiale ha scoperto che un account poteva essere gestito da più operatori.

Una delle principali attività dell'operazione consisteva nel generare descrizioni dettagliate, coerenti con le proposte di vendita, per quello che è stato descritto come "Assistente AI per l'opinione pubblica all'estero di Qianyue" 

Questo strumento è stato progettato per analizzare post e commenti provenienti da piattaforme come X, Facebook, YouTube, Instagram, Telegram e Reddit e per fornire alle autorità cinesi le informazioni acquisite. 

Sfortunatamente, OpenAI non è stata in grado di verificare in mododentqueste descrizioni e l'dent ha messo gli Stati Uniti in stato di massima allerta. Secondo il principale investigatore di OpenAI, Ben Nuimmo, questo caso è un esempio di come regimi autoritari come la Cina possano cercare di sfruttare la tecnologia sviluppata negli Stati Uniti contro gli Stati Uniti e i suoi alleati.

"Questo è uno sguardo piuttosto inquietante al modo in cui un attore non democratico ha cercato di utilizzare l'intelligenza artificiale democratica o basata negli Stati Uniti per scopi non democratici, secondo i materiali che stavano generando loro stessi."

OpenAI ha anche rivelato che gli account facevano riferimento ad altri strumenti di intelligenza artificiale, tra cui una versione di Llama, il modello di intelligenza artificiale open source di Meta. 

Questo caso arriva non molto tempo dopo la creazione di DeepSeek 

OpenAI ha lanciato l'allarme sui pericoli dell'intelligenza artificiale cinese, soprattutto dopo che DeepSeek ha fuso le facce con il suo modello di ragionamento R1, che ha battuto molti altri modelli realizzati negli Stati Uniti nei benchmark e ha causato un'enorme svendita di tecnologia nei mercati statunitensi. 

DeepSeekè discutibile e i suoi creatori affermano di averlo realizzato a una frazione del costo impiegato dalla maggior parte dei modelli statunitensi per costruire i propri. Questa affermazione ha suscitato reazioni contrastanti nel pubblico, ma molti esperti sono convinti che si tratti di un'esagerazione. 

OpenAI non solo è convinta che il team dietro DeepSeek abbia investito di più, ma ha anche accusato DeepSeek di distillare l'output dei suoi modelli per crearne di propri. 

Secondo un rapporto di Bloomberg, Microsoft, uno dei principali investitori in OpenAI, sta ora indagando per verificare se i dati di proprietà dell'azienda siano stati utilizzati senza autorizzazione.

David Sacks, recentemente nominato "zar dell'intelligenza artificiale e delle criptovalute" dalla Casa Bianca, ha condiviso le preoccupazioni di OpenAI, suggerendo che DeepSeek potrebbe aver utilizzato i modelli dell'azienda americana di intelligenza artificiale per migliorare, un processo definito distillazione della conoscenza.

"Esistono prove sostanziali che DeepSeek abbia estratto le conoscenze dai modelli di OpenAI", ha affermato. 

Ha aggiunto che nei prossimi due mesi le principali aziende americane di intelligenza artificiale inizieranno ad adottare misure per impedire la distillazione, nella speranza che ciò rallenti alcuni modelli imitatori.