La Cina ora usa l'intelligenza artificiale per potenziare la censura e la repressione

I dati trapelati dimostrano che la Cina sta utilizzando grandi modelli linguistici per potenziare la sua macchina della censura.

Una recente fuga di notizie rivela che un sofisticato sistema di intelligenza artificiale, basato su 133.000 esempi di contenuti degli utenti, è progettato per segnalare qualsiasi materiale ritenuto sensibile dal governo. 

Il set di dati, scoperto da un ricercatore di sicurezza e visionato da TechCrunch, dimostra che la Cina sta adottando misure per estendere il suo controllo online ben oltre argomenti come il massacro di piazza Tiananmen.

La Cina utilizza la tecnologia moderna per filtrare i contenuti online

La fuga di notizie, risalente addirittura a dicembre 2024, è un chiaro segnale che le autorità cinesi o i loro affiliati stanno utilizzando nuove tecnologie per filtrare i contenuti online. 

Il database include denunce sulla povertà nelle zone rurali della Cina, resoconti giornalistici su membri corrotti del Partito Comunista e richieste di aiuto contro poliziotti corrotti che estorcono denaro agli imprenditori. 

Ogni contenuto viene inserito in un modello linguistico di grandi dimensioni (LLM) che analizza gli argomenti che potrebbero suscitare dissenso nell'opinione pubblica.

Xiao Qiang, ricercatore presso l'Università della California a Berkeley che studia la censura cinese, ha dichiarato a TechCrunch che i dati trapelati sono una "prova evidente" dell'intenzione del governo di utilizzare gli LLM per migliorare la repressione. 

Qiang ha spiegato che, a differenza dei metodi tradizionali che si basano sul lavoro umano per il filtraggio delle parole chiave e la revisione manuale, un LLM puòdentrapidamente e accuratamente anche le critiche più sottili, rendendo così il controllo delle informazioni condotto dallo Stato più efficiente e di vasta portata.

Il sistema non viene utilizzato solo per censurare argomenti politici, ma si estende anche ad aree sensibili della vita sociale e degli affari militari. Secondo i dettagli contenuti nel dataset trapelato, qualsiasi contenuto relativo a inquinamento, scandali sulla sicurezza alimentare, frodi finanziarie e controversie di lavoro riceve la "massima priorità" per la censura. 

I dati mostrano che argomenti come le proteste anti-inquinamento di Shifang del 2012 vengono attentamente monitorati per prevenire disordini pubblici. Persino la satira politica e le analogie storiche rivolte a personaggi politici attuali vengono immediatamente segnalate. Anche i contenuti relativi alla politica di Taiwan vengono presi di mira, con questioni militari – inclusi resoconti di movimenti, esercitazioni e dettagli sugli armamenti – sottoposti a un attento esame.

"Taiwan" compare 15.000 volte nel dataset sulla censura cinese

Un dettaglio degno di nota nel contenuto trapelato è che la parola cinese per Taiwan (台湾) compare più di 15.000 volte, sottolineando l'attenzione rivolta a qualsiasi discussione che possa mettere in discussione la narrazione ufficiale. 

Altri contenuti sensibili presenti nel dataset includono commenti sulle capacità militari di Taiwan e dettagli riguardanti un nuovo caccia cinese. Non vengono risparmiate nemmeno le forme più sottili di dissenso; un esempio presente nel database è un aneddoto sulla natura effimera del potere, che utilizza il popolare detto cinese "Quando cade l'albero, le scimmie si disperdono"

Il ricercatore di sicurezza NetAskari ha scoperto il set di dati, che era archiviato in un database Elasticsearch non protetto su un server Baidu. 

"Lavoro di opinione pubblica" è un termine utilizzato per indicare le attività di censura e propaganda supervisionate dalla potente Cyberspace Administration of China (CAC). Michael Caster, responsabile del programma per l'Asia dell'organizzazione per i diritti umani Article 19, ha spiegato che questo lavoro è progettato per garantire che le narrazioni del governo rimangano dominanti online. 

Un rapporto di OpenAI pubblicato il mese scorso ha inoltre rivelato che un soggetto nondentdentdentdentdentdentdentdentdent Xia.

La censura tradizionale in Cina si è spesso basata su algoritmi di base che bloccanomatici contenuti contenenti termini inseriti nella lista nera come "massacro di Tiananmen" o "Xi Jinping". Gli utenti hanno sperimentato questo fenomeno in prima persona con strumenti come DeepSeek. Tuttavia, i sistemi più recenti sono in grado di rilevare anche critiche sottili su larga scala e migliorano man mano che vengono alimentati con più dati.