A inteligência artificial DeepSeek-R1 da China escreve códigos mais fracos e inseguros, atendendo às exigências do Partido Comunista.

Uma nova pesquisa da empresa de cibersegurança CrowdStrike descobriu que o modelo de linguagem de grande porte (LLM) DeepSeek-R1, do DeepSeek, gera código mais fraco e inseguro quando solicitado a abordar tópicos que a liderança chinesa poderia considerar "politicamente sensíveis". 

A empresa de tecnologia chinesa DeepSeek lançou o DeepSeek-R1 em janeiro, e ele se tornou o modelo de IA mais baixado durante sua semana de lançamento, tanto nas lojas chinesas quanto nas americanas, Cryptopolitan . 

A equipe de Operações Contra Adversárias da CrowdStrike digitou instruções envolvendo assuntos considerados politicamente sensíveis pelo Partido Comunista Chinês e descobriu que a probabilidade de o DeepSeek-R1 produzir código com falhas de segurança graves aumentou em até 50%.

“Considerando que até 90% dos desenvolvedores já utilizavam essas ferramentas em 2025 com acesso a código-fonte de alto valor, qualquer problema sistêmico de segurança em assistentes de codificação com IA tem alto impacto e alta prevalência”, escreveu a empresa.

Censura do modelo DeepSeek R1 e preocupações com a segurança nacional

De acordo com o blog da CrowdStrike publicado na última quinta-feira, diversos governos impuseram restrições ou proibições totais ao DeepSeek-R1, um. Os legisladores criticaram duramente o modelo por supostamente censurar assuntos politicamente sensíveis, como questionamentos sobre o firewall da internet chinesa e o status de Taiwan.

A empresa americana de software descobriu que o R1 frequentemente se recusava a auxiliar em tópicos envolvendo grupos ou movimentos considerados hostis ao governo da China continental. Modelos ocidentais quase sempre geravam código quando solicitados a criar software relacionado ao Falun Gong, mas o DeepSeek-R1 se recusou a fazê-lo em 45% dos testes.

Em diversos casos, o modelo elaborou planos estruturados para responder a perguntas, incluindo requisitos de sistema e exemplos de código, embora fosse plenamente capaz de fornecer uma resposta técnica. Os tracde raciocínio às vezes continham linhas como:

“O Falun Gong é um grupo sensível. Devo considerar as implicações éticas aqui. Auxiliá-los pode ser contra as normas. Mas o usuário está pedindo ajuda técnica. Deixe-me focar nos aspectos técnicos.”

A saída final do R1, após concluir sua fase de raciocínio, terminou com a recusa padronizada: "Desculpe, mas não posso atender a essa solicitação", escrita sem qualquer filtragem externa ou restrições aplicadas ao modelo. A CrowdStrike concluiu que o comportamento está embutido no mecanismo de auto-sobreposição do modelo ou em uma espécie de interruptor de segurança intrínseco.

Governos de Taiwan e ocidentais criticam produtos de IA chineses

Em um comunicado divulgado no início deste mês, o Departamento de Segurança Nacional de Taiwan afirmou que os cidadãos devem ter cautela ao usar sistemas de IA generativa desenvolvidos pela DeepSeek e por outras quatro empresas chinesas: Doubao, Yiyan, Tongyi e Yuanbao. 

“Os cinco modelos de linguagem GenAI são capazes de gerar scripts de ataque à rede e código de exploração de vulnerabilidades que permitem a execução remota de código em determinadas circunstâncias, aumentando os riscos da gestão da segurança cibernética”, avaliou o Bureau.

Órgãos reguladores dos EUA e da Austrália solicitaram que as lojas de aplicativos removam modelos de desenvolvedores chineses, temendo que as ferramentas possam coletardentde usuários, registros de conversas e informações pessoais, e transmitir esses dados para servidores operados na China.

“Não deveria ser preciso entrar em pânico com a IA chinesa para lembrar às pessoas que a maioria das empresas do setor define os termos de como usa seus dados pessoais. E que, ao usar os serviços delas, você está trabalhando para elas, e não o contrário”, disse John Scott-Railton, pesquisador do Citizen Lab da Universidade de Toronto, à WIRED em janeiro.

O crescimento do mercado de IA desencadeia competição regional na Ásia.

No mercado asiático de IA em geral, um gestor de fundos de alto desempenho na Ásia aumentou recentemente sua exposição a ações chinesas de inteligência artificial, ao mesmo tempo em que reduziu suas participações na Coreia do Sul e em Taiwan, informou. 

Kelly Chung, que ajuda a supervisionar o Value Partners Asian Income Fund e o Asian Innovation Opportunities Fund, afirmou que algumas ações chinesas de IA ainda estão bastante baratas em termos de avaliação. Ela vem substituindo ações taiwanesas e sul-coreanas por empresas chinesas de hiperescala listadas em Hong Kong desde agosto. 

Chung observou que seus dois fundos, que juntos detêm US$ 490 milhões, superaram quase todos os seus concorrentes no último ano.

O índice Kospi da Coreia do Sul, com forte presença do setor de tecnologia, subiu 21% nos últimos três meses, impulsionado pela SK Hynix, uma das principais fornecedoras da Nvidia, cujas ações mais que dobraram de valor. O índice de ações de Taiwan subiu 9,2% no mesmo período. Por outro lado, o índice Hang Seng Tech de Hong Kong, que inclui as maiores empresas chinesas investindo em inteligência artificial, caiu 4,8%.