La Chine utilise désormais l'IA pour intensifier considérablement la censure et la répression

Des données divulguées montrent que la Chine utilise de vastes modèles linguistiques pour renforcer son appareil de censure.

Une récente fuite révèle qu'un système d'IA sophistiqué, construit à partir de 133 000 exemples de contenu utilisateur, est conçu pour signaler tout contenu jugé sensible par le gouvernement. 

Les données, découvertes par un chercheur en sécurité et consultées par TechCrunch, montrent que la Chine prend des mesures pour étendre son contrôle en ligne bien au-delà de sujets tels que le massacre de la place Tiananmen.

La Chine utilise des technologies modernes pour filtrer le contenu en ligne

Cette fuite, qui remonte à des documents aussi récents que décembre 2024, est un signe clair que les autorités chinoises ou leurs affiliés utilisent de nouvelles technologies pour filtrer les contenus en ligne. 

La base de données comprend des plaintes concernant la pauvreté dans la Chine rurale, des articles de presse sur des membres corrompus du Parti communiste et des appels à l'aide contre des policiers corrompus qui rackettent les entrepreneurs. 

Chaque élément de contenu est intégré à un vaste modèle de langage (LLM) qui recherche des sujets susceptibles de susciter la dissidence publique.

Xiao Qiang, chercheur à l'UC Berkeley qui étudie la censure chinoise, a déclaré à TechCrunch que les données divulguées constituent une « preuve claire » de l'intention du gouvernement d'utiliser les LLM pour améliorer la répression. 

Qiang a expliqué que, contrairement aux méthodes traditionnelles qui reposent sur le travail humain pour le filtrage des mots-clés et la révision manuelle, un LLM peutdentrapidement et avec précision même les critiques subtiles, rendant ainsi le contrôle de l'information mené par l'État plus efficace et plus étendu.

Ce système ne se limite pas à la censure des sujets politiques ; il s’étend également à des domaines sensibles de la vie sociale et des affaires militaires. D’après les informations divulguées, tout contenu relatif à la pollution, aux scandales liés à la sécurité alimentaire, aux fraudes financières et aux conflits du travail fait l’objet d’une censure « prioritaire ». 

Les données montrent que des sujets comme les manifestations anti-pollution de Shifang en 2012 font l'objet d'une surveillance étroite afin de prévenir tout trouble à l'ordre public. Même les satires politiques et les analogies historiques visant des personnalités politiques actuelles sont immédiatement signalées. Les contenus relatifs à la politique taïwanaise sont également ciblés, et les questions militaires – notamment les rapports sur les mouvements de troupes, les exercices militaires et les détails concernant l'armement – ​​sont scrutées de près.

Le terme « Taïwan » apparaît 15 000 fois dans l’ensemble de données sur la censure en Chine

Un détail notable dans le contenu divulgué est que le mot chinois pour Taïwan (台湾) apparaît plus de 15 000 fois, soulignant l'importance accordée à toute discussion susceptible de remettre en cause le récit officiel. 

Parmi les autres contenus sensibles de l'ensemble de données figurent des commentaires sur les capacités militaires de Taïwan et des détails concernant un nouveau chasseur chinois. Même les formes les plus subtiles de dissidence ne sont pas épargnées ; on trouve par exemple dans la base de données une anecdote sur la nature éphémère du pouvoir, utilisant l'expression chinoise populaire « Quand l'arbre tombe, les singes se dispersent »

Le chercheur en sécurité NetAskari a découvert l' ensemble de données, qui était stocké dans une base de données Elasticsearch non sécurisée sur un serveur Baidu. 

L’expression « manipulation de l’opinion publique » désigne les efforts de censure et de propagande menés par la puissante Administration du cyberespace de Chine (CAC). Michael Caster, responsable du programme Asie de l’organisation de défense des droits humains Article 19, explique que ces efforts visent à garantir la domination du discours officiel du gouvernement en ligne. 

Un rapport d'OpenAI publié le mois dernier a également révélé qu'un acteur nondentdentdentdentdentdentdentdentdent Cai Xia, figure de proue de l'opposition chinoise.

La censure traditionnelle en Chine s'est souvent appuyée sur des algorithmes basiques bloquantmaticles contenus contenant des termes interdits tels que « massacre de Tiananmen » ou « Xi Jinping ». Les utilisateurs en ont fait l'expérience directe avec des outils comme DeepSeek. Cependant, les systèmes plus récents peuvent détecter même les critiques les plus subtiles à grande échelle et s'améliorent à mesure qu'ils sont alimentés par davantage de données.