A China agora está usando IA para intensificar a censura e a repressão

Dados vazados mostram que a China está usando grandes modelos de linguagem para aprimorar seu sistema de censura.

Um vazamento recente revela que um sofisticado sistema de IA, construído com base em 133.000 exemplos de conteúdo de usuários, foi projetado para sinalizar qualquer material considerado sensível pelo governo. 

O conjunto de dados, descoberto por um pesquisador de segurança e visto pelo TechCrunch, mostra que a China está tomando medidas para estender seu controle online muito além de tópicos como o massacre da Praça da Paz Celestial.

A China está usando tecnologia moderna para filtrar conteúdo online

O vazamento, que inclui registros tão recentes quanto dezembro de 2024, é um sinal claro de que as autoridades chinesas ou seus afiliados estão usando novas tecnologias para filtrar conteúdo online. 

O banco de dados inclui queixas sobre pobreza na China rural, notícias sobre membros corruptos do Partido Comunista e pedidos de ajuda contra policiais corruptos que extorquem empresários. 

Cada conteúdo é inserido em um modelo de linguagem abrangente (LLM, na sigla em inglês) que busca tópicos que possam gerar dissidência pública.

Xiao Qiang, pesquisador da UC Berkeley que estuda a censura na China, disse ao TechCrunch que os dados vazados são uma "prova clara" da intenção do governo de usar os LLMs para aprimorar a repressão. 

Qiang explicou que, ao contrário dos métodos tradicionais que dependem do trabalho humano para filtragem de palavras-chave e revisão manual, um LLM podedentde forma rápida e precisa até mesmo críticas sutis, tornando assim o controle da informação liderado pelo Estado mais eficiente e abrangente.

O sistema não é usado apenas para censurar temas políticos, mas também se estende a áreas sensíveis da vida social e assuntos militares. De acordo com os detalhes do conjunto de dados vazado, qualquer conteúdo relacionado à poluição, escândalos de segurança alimentar, fraudes financeiras e conflitos trabalhistas recebe “prioridade máxima” para censura. 

Os dados mostram que tópicos como os protestos antipoluição de Shifang em 2012 são cuidadosamente monitorados para evitar distúrbios públicos. Até mesmo sátiras políticas e analogias históricas direcionadas a figuras políticas atuais são imediatamente sinalizadas. Conteúdo relacionado à política taiwanesa também é alvo de censura, com assuntos militares – incluindo relatos de movimentações, exercícios e detalhes de armamentos – sendo minuciosamente analisados.

'Taiwan' aparece 15.000 vezes no conjunto de dados sobre censura na China

Um detalhe notável no conteúdo vazado é que a palavra chinesa para Taiwan (台湾) aparece mais de 15.000 vezes, o que reforça o foco em qualquer discussão que possa desafiar a narrativa oficial. 

Outros conteúdos sensíveis no conjunto de dados incluem comentários sobre as capacidades militares de Taiwan e detalhes sobre um novo caça chinês. Nem mesmo formas sutis de dissidência são poupadas; um exemplo encontrado no banco de dados é uma anedota sobre a natureza efêmera do poder, usando o popular ditado chinês "Quando a árvore cai, os macacos se espalham"

O pesquisador de segurança NetAskari descobriu o conjunto de dados, que estava armazenado em um banco de dados Elasticsearch não seguro em um servidor da Baidu. 

"Trabalho de opinião pública" é um termo usado para descrever os esforços de censura e propaganda supervisionados pela poderosa Administração do Ciberespaço da China (CAC). Michael Caster, gerente do programa para a Ásia da organização de direitos humanos Article 19, explicou que esse trabalho visa garantir que as narrativas do governo permaneçam dominantes na internet. 

Um relatório da OpenAI divulgado no mês passado também revelou que um agente nãodentdentdentdentdentdentdentdentdent Xia.

A censura tradicional na China muitas vezes se baseava em algoritmos básicos que bloqueavammaticconteúdo contendo termos proibidos, como "Massacre da Paz Celestial" ou "Xi Jinping". Usuários já experimentaram isso em primeira mão com ferramentas como o DeepSeek. No entanto, sistemas mais recentes conseguem detectar até mesmo críticas sutis em larga escala, e seu desempenho melhora à medida que recebem mais dados.