La Cina sta ora utilizzando l'IA per potenziare censura e repressione

Dati trapelati mostrano che la Cina utilizza modelli linguistici di grandi dimensioni (LLM) per potenziare la sua macchina di censura.

Una recente fuga di notizie rivela che un sofisticato sistema di IA, basato su 133.000 esempi di contenuti degli utenti, è progettato per segnalare qualsiasi materiale considerato sensibile dal governo. 

L'insieme di dati, scoperto da un ricercatore di sicurezza e visiono da TechCrunch, mostra che la Cina sta intraprendendo passi per estendere il suo controllo online ben oltre argomenti come la strage di Piazza Tiananmen.

La Cina utilizza tecnologie moderne per filtrare i contenuti online

La fuga di notizie, che risale a inserimenti recenti fino a dicembre 2024, è un chiaro segno che le autorità cinesi o i loro affiliati stanno utilizzando nuove tecnologie per filtrare i contenuti online. 

Il database include reclami sulla povertà nella Cina rurale, reportage giornalistici su membri corrotti del Partito Comunista e appelli di aiuto per poliziotti corrotti che estorcono denaro agli imprenditori. 

Ogni pezzo di contenuto viene inserito in un modello linguistico di grandi dimensioni (LLM) che scansiona i temi che potrebbero suscitare dissenso pubblico.

Xiao Qiang, ricercatore presso l'UC Berkeley che studia la censura cinese, ha dichiarato a TechCrunch che i dati trapelati sono "prova evidente" dell'intento del governo di utilizzare LLM per migliorare la repressione. 

Qiang ha spiegato che, a differenza dei metodi tradizionali che si affidano al lavoro umano per il filtraggio per parole chiave e la revisione manuale, un LLM può identificare rapidamente e con precisione anche le critiche sottili, rendendo il controllo delle informazioni guidato dallo stato più efficiente e di vasta portata.

Il sistema non viene utilizzato solo per censurare argomenti politici, ma si estende anche ad aree sensibili della vita sociale e degli affari militari. Secondo i dettagli presenti nel dataset trapelato, qualsiasi contenuto relativo all'inquinamento, agli scandali sulla sicurezza alimentare, alle frodi finanziarie e alle dispute lavorative riceve la "massima priorità" per la censura. 

I dati mostrano che temi come le proteste anti-inquinamento di Shifang del 2012 sono attentamente monitorati per prevenire disordini pubblici. Anche la satira politica e le analogie storiche rivolte alle figure politiche attuali vengono immediatamente segnalate. I contenuti relativi alla politica di Taiwan sono anch'essi presi di mira, con questioni militari – inclusi reportage su movimenti, esercitazioni e dettagli sulle armi – che attirano un attento scrutinio.

'Taiwan' appare 15,000 volte nel dataset di censura della Cina

Un dettaglio notevole nei contenuti trapelati è che la parola cinese per Taiwan (台湾) appare oltre 15.000 volte, sottolineando l'attenzione su qualsiasi discussione che potrebbe sfidare la narrazione ufficiale. 

Altri contenuti sensibili nel dataset includono commenti sulle capacità militari di Taiwan e dettagli su un nuovo caccia cinese. Anche forme sottili di dissenso non sono risparmiate; un esempio trovato nel database è un aneddoto sulla natura effimera del potere che utilizza il popolare idioma cinese "Quando l'albero cade, le scimmie si disperdono."

Il ricercatore di sicurezza NetAskari ha scoperto il dataset, che era memorizzato in un database Elasticsearch non protetto su un server Baidu. 

"Lavoro sull'opinione pubblica" è un termine utilizzato per gli sforzi di censura e propaganda supervisionati dalla potente Amministrazione Cyberspace della Cina (CAC). Michael Caster, responsabile del programma Asia per l'organizzazione per i diritti Article 19, ha spiegato che questo lavoro è progettato per garantire che le narrazioni del governo rimangano dominanti online. 

deposito complementare rapporto da OpenAI lo scorso mese ha anche rivelato che un attore non identificato, probabilmente operante dalla Cina, ha utilizzato l'IA generativa per monitorare le conversazioni sui social media – in particolare quelle che invocano proteste per i diritti umani – e ha inoltrato le informazioni al governo cinese. Lo stesso rapporto ha notato che la tecnologia è stata utilizzata per generare commenti fortemente critici nei confronti del prominente dissidente cinese Cai Xia.

La censura tradizionale in Cina si è spesso basata su algoritmi di base che bloccano automaticamente i contenuti contenenti termini nella lista nera come "strage di Tiananmen" o "Xi Jinping." Gli utenti ne hanno fatta esperienza diretta con strumenti come DeepSeek. Tuttavia, i sistemi più recenti possono rilevare anche critiche sottili su larga scala e migliorano man mano che vengono alimentati con più dati.