O boom da IA ​​na China levanta duas grandes preocupações sobre censura

Embora os modelos de IA baseados na China estejam ganhando destaque por suas capacidades de ponta, relatos revelam que restrições impostas pelo governo podem influenciar fortemente esses modelos. Muitos lançamentos recentes de IA generativa por empresas chinesas estão censurando tópicos sensíveis ou controversos.

Os analistas agora veem o problema na adaptação dos códigos dos modelos de IA chineses. A grande questão é: isso criará um conflito?

A China pode estar estendendo sua censura à IA (Inteligência Artificial).

A China é conhecida por três coisas: tecnologia, força de trabalho e censura. Relatórios destacam que os modelos de IA baseados na China se tornaram o ponto alto do setor tecnológico devido às suas avançadas habilidades de programação e raciocínio.

No entanto, de acordo com uma reportagem do TechCrunch, o governo chinês pode estar controlando as respostas de muitos desses modelos de código aberto. O artigo afirma que esses modelos censuram tópicos controversos ou sensíveis.

Essa censura gerou preocupação em muitas pessoas, incluindo Clement Delangue, CEO da Hugging Face, uma importante plataforma para hospedagem de modelos de IA.

Em um podcast recente, Delangue demonstrou preocupação com as consequências da dependência de empresas ocidentais em modelos de IA desenvolvidos na China. Ele apontou que, se você perguntar a um modelo de IA chinês sobre eventos como o da Praça da Paz Celestial, ele evitará o assunto ou fornecerá uma resposta censurada, diferentemente de modelos construídos em outros países. Os protestos da Praça da Paz Celestial de 1989 foram um movimento pró-democracia em Pequim, que culminou em uma violenta repressão militar.

O crescimento desproporcional da IA ​​entre os países é motivo de preocupação

Cryptopolitan noticiou o lançamento recente de diversos modelos de IA generativa. da Alibaba o QwQ-32B-Preview da DeepSeek o R1-Lite-Preview Entre eles, Em competição com o Sora da OpenAI, a Tencent também teria lançado uma IA de código aberto para conversão de texto em vídeo e de vídeo em vídeo. Decidimos testar essa afirmação para verificar se a IA desenvolvida na China honra os "valores socialistas fundamentais" do país.

Primeiramente, testamos a demonstração não oficial do ChatGLM-6B no Hugging Face. O modelo foi treinado em inglês e chinês na plataforma de aprendizado de máquina e IA. Ao ser questionado sobre o assassinato de manifestantes, o modelo de IA não respondeu. Em seguida, recorremos ao DeepSeek para perguntar sobre Tiananmen. O modelo de IA, conhecido por suas habilidades matemáticas, recusou-se a responder.

Delangue alertou que, se a China se tornar líder global em IA, poderá usar seu domínio para disseminar valores culturais e políticos que podem entrar em conflito com o mundo ocidental. Ele enfatizou a importância de distribuir o desenvolvimento da IA ​​entre várias nações para evitar que a China ou qualquer outro país detenha um poder desproporcional.

Olhando para o futuro, Delangue previu que a China poderia ultrapassar outras nações e se tornar líder em IA já em 2025. Em resposta, o entusiasta de IA @kimmonismus afirma que a declaração é "controversa". Embora o comentarista tenha observado que o avanço da IA ​​na China é rápido, @kimmonismus ressalta que as restrições impostas pelos EUA à exportação de chips semicondutores avançados para a China acabarão por desacelerar o progresso do Banco Popular da China no desenvolvimento de IA. Considerando que os chips são essenciais para o treinamento e execução de modelos sofisticados de IA, a China pode estar se tornandodent de outros países.

“Sim, você pode treinar o dobro do tempo (ou mais) com chips mais antigos para chegar ao mesmo nível, mas em algum momento, será difícil acompanhar o Ocidente se os chips ocidentais se tornarem consistentemente melhores”, disse @kimmonismus.

Entretanto, édent que os modelos de IA chineses são projetados para cumprir diretrizes éticas e culturais específicas ou restrições impostas pelo governo. As diferenças de resposta entre as plataformas também podem depender das políticas internas da plataforma de hospedagem ou dos dados de treinamento e limitações do modelo de IA específico que está sendo usado.