China ahora utiliza inteligencia artificial para potenciar la censura y la represión

Datos filtrados muestran que China está utilizando grandes modelos lingüísticos para potenciar su maquinaria de censura.

Una filtración reciente revela que un sofisticado sistema de inteligencia artificial, construido sobre 133.000 ejemplos de contenido de usuarios, está diseñado para marcar cualquier material considerado sensible por el gobierno. 

El conjunto de datos, descubierto por un investigador de seguridad y visto por TechCrunch, muestra que China está tomando medidas para extender su control en línea mucho más allá de temas como la masacre de la Plaza Tiananmen.

China utiliza tecnología moderna para filtrar contenido en línea

La filtración, que data de diciembre de 2024, es una clara señal de que las autoridades chinas o sus afiliados están utilizando nueva tecnología para filtrar contenido en línea. 

La base de datos incluye quejas sobre la pobreza en la China rural, informes de noticias sobre miembros corruptos del Partido Comunista y pedidos de ayuda contra policías corruptos que extorsionan a empresarios. 

Cada pieza de contenido se incorpora a un gran modelo de lenguaje (LLM) que busca temas que puedan suscitar disenso público.

Xiao Qiang, investigador de la UC Berkeley que estudia la censura china, dijo a TechCrunch que los datos filtrados son una “evidencia clara” de la intención del gobierno de utilizar los LLM para mejorar la represión. 

Qiang explicó que, a diferencia de los métodos tradicionales que dependen del trabajo humano para el filtrado de palabras clave y la revisión manual, un LLM puededentcon rapidez y precisión incluso las críticas más sutiles, haciendo así que el control de la información dirigido por el Estado sea más eficiente y de mayor alcance.

El sistema no solo se utiliza para censurar temas políticos, sino que también se extiende a áreas sensibles de la vida social y los asuntos militares. Según los detalles del conjunto de datos filtrado, cualquier contenido relacionado con la contaminación, los escándalos de seguridad alimentaria, el fraude financiero y los conflictos laborales recibe la máxima prioridad de censura. 

Los datos muestran que temas como las protestas anticontaminación de Shifang de 2012 se vigilan cuidadosamente para prevenir el malestar público. Incluso la sátira política y las analogías históricas dirigidas a figuras políticas actuales se denuncian de inmediato. El contenido relacionado con la política taiwanesa también es objeto de un escrutinio minucioso, con asuntos militares —incluidos informes de movimientos, ejercicios y detalles sobre armamento— bajo estrecha vigilancia.

"Taiwán" aparece 15.000 veces en el conjunto de datos de censura de China

Un detalle notable en el contenido filtrado es que la palabra china para Taiwán (台湾) aparece más de 15.000 veces, lo que subraya el enfoque en cualquier discusión que pueda desafiar la narrativa oficial. 

Otro contenido sensible del conjunto de datos incluye comentarios sobre las capacidades militares de Taiwán y detalles sobre un nuevo avión de combate chino. Ni siquiera las disidencias más sutiles se salvan; un ejemplo encontrado en la base de datos es una anécdota sobre la fugacidad del poder, que utiliza el dicho popular chino «Cuando el árbol cae, los monos se dispersan»

El investigador de seguridad NetAskari descubrió el conjunto de datos, que estaba almacenado en una base de datos Elasticsearch no segura en un servidor Baidu. 

El término «trabajo de opinión pública» se utiliza para referirse a las iniciativas de censura y propaganda supervisadas por la poderosa Administración del Ciberespacio de China (CAC). Michael Caster, director del programa para Asia de la organización de derechos humanos Artículo 19, explicó que este trabajo tiene como objetivo garantizar que las narrativas del gobierno sigan dominando en línea. 

Un informe de OpenAI del mes pasado también reveló que un actor nodentdentdentdentdentdentdentdentdent Xia.

La censura tradicional en China se ha basado a menudo en algoritmos básicos que bloqueanmaticel contenido que contiene términos prohibidos, como "Masacre de Tiananmén" o "Xi Jinping". Los usuarios lo han experimentado en primera persona con herramientas como DeepSeek. Sin embargo, los sistemas más nuevos pueden detectar incluso críticas sutiles a gran escala y mejoran a medida que se les suministran más datos.