OpenAI sospende account collegati alla Cina che usano ChatGPT per strumento di sorveglianza

OpenAI, la principale startup di intelligenza artificiale americana, ha appena bandito più account su ChatGPT, accusandoli di essere coinvolti nello sviluppo di uno strumento di sorveglianza. 

Secondo un rapporto aziendale pubblicato a febbraio 2025, gli account sospesi avrebbero legami con la Cina. Questi account avrebbero usato i modelli di OpenAI per generare descrizioni dettagliate di uno strumento di ascolto dei social media, che avrebbero affermato essere usato per fornire feedback in tempo reale sulle proteste in Occidente ai servizi di sicurezza cinesi. 

Gli account banditi avevano anche trovato un modo per usare i modelli di OpenAI per eseguire il debug del codice apparentemente inteso a implementare tale strumento. 

Perché la Cina è sospettata 

OpenAI ha politiche messe in atto per impedire l'uso dell'IA per monitorare le comunicazioni o la sorveglianza non autorizzata degli individui, incluse attività di o per conto di governi che cercano di sopprimere le libertà personali e i diritti.

OpenAI è stata in grado di identificare gli account in questione basandosi su modelli comportamentali tra altre scoperte. Alcune delle cose che gli account avrebbero usato i modelli di OpenAI per includere l'assistenza nell'analisi di documenti, la generazione di pitch di vendita, descrizioni di strumenti per monitorare l'attività sui social media e la ricerca di attori politici e argomenti.

Gli account sono sospettati di avere origini cinesi perché le loro attività si sono verificate principalmente durante le ore lavorative cinesi continentali e gli account hanno sollecitato i modelli di OpenAI con la lingua cinese. 

OpenAI ha anche scoperto che coloro dietro gli account stavano usando gli strumenti in un modo coerente con il prompting manuale piuttosto che con l'automazione. In alcuni casi, l'azienda di IA ha scoperto che un account potrebbe aver avuto più operatori.

Una delle principali attività dell'operazione ha coinvolto la generazione di descrizioni dettagliate, coerenti con i pitch di vendita, per ciò che è stato descritto come l'"Assistente AI per l'Opinione Pubblica Estera Qianyue". 

Questo strumento è stato progettato per analizzare post e commenti da piattaforme come X, Facebook, YouTube, Instagram, Telegram e Reddit e alimentare le autorità cinesi con ciò che impara. 

Sfortunatamente, OpenAI non è stata in grado di verificare indipendentemente queste descrizioni e l'incidente ha messo gli Stati Uniti in allerta alta. Secondo il principale investigatore di OpenAI, Ben Nuimmo, questo caso è un esempio di come i regimi autoritari come la Cina possano cercare di sfruttare la tecnologia costruita negli USA contro gli USA e i loro alleati.

"Questo è uno sguardo piuttosto inquietante sul modo in cui un attore non democratico ha cercato di usare l'IA democratica o basata negli USA per scopi non democratici, secondo i materiali che stavano generando da soli."

OpenAI ha anche rivelato che gli account facevano riferimento ad altri strumenti di IA, inclusa una versione di Llama, il modello di IA open-source di Meta. 

Questo caso arriva non molto dopo la creazione di DeepSeek 

OpenAI ha lanciato l'allarme sui pericoli dell'IA cinese, specialmente dopo che DeepSeek ha fuso i volti con il suo modello di ragionamento R1, che ha battuto molti altri modelli fatti negli USA nei benchmark e ha causato una grande vendita di azioni nei mercati USA. 

DeepSeekLa superiorità di DeepSeek è dibattibile e i suoi creatori affermano di averlo creato a una frazione del costo che la maggior parte dei modelli USA usava per costruirli. Questa affermazione ha ricevuto reazioni miste dal pubblico, ma molti esperti sono convinti che fosse un'esagerazione. 

OpenAI non è solo convinta che il team dietro DeepSeek abbia speso di più per esso, ma ha anche accusato DeepSeek di distillare l'output dei suoi modelli per fare il proprio. 

Secondo un rapporto di Bloomberg, Microsoft, un grande investitore in OpenAI, sta ora indagando se i dati appartenenti all'azienda siano stati usati senza autorizzazione.

David Sacks, il recentemente nominato "czar dell'IA e delle criptovalute" della Casa Bianca, ha eco delle preoccupazioni di OpenAI, suggerendo che DeepSeek potrebbe aver usato i modelli dell'azienda di IA americana per migliorare, un processo definito distillazione della conoscenza.

"C'è sostanziale evidenza che ciò che DeepSeek ha fatto qui è che ha distillato la conoscenza dai modelli di OpenAI", Sacks ha. 

Ha aggiunto che nei prossimi mesi, le principali aziende di IA in America inizieranno a prendere misure per prevenire la distillazione nella speranza che questo rallenti alcuni dei modelli copia.