A IA DeepSeek-R1 da China escreve código mais fraco e inseguro vinculado às demandas do Partido Comunista
Foto de Solen Feyissa em Unsplash.
- Pesquisa da CrowdStrike mostra que a IA DeepSeek-R1 da China produz código mais fraco e mais vulnerável quando solicitada com tópicos politicamente sensíveis.
- Governo de Taiwan e governos ocidentais alertam que modelos chineses de GenAI podem censurar conteúdo, vazar dados de usuários ou gerar código malicioso.
- Investidores migram para ações de IA chinesas subvalorizadas enquanto mercados regionais divergem e as valuations na Coreia e em Taiwan disparam.
Uma nova pesquisa da empresa de segurança cibernética CrowdStrike descobriu que o modelo de linguagem grande (LLM) DeepSeek-R1 da DeepSeek gera código mais fraco e mais inseguro quando solicitado com tópicos que a liderança da China poderia considerar “politicamente sensíveis.”
A empresa de tecnologia chinesa DeepSeek apresentou DeepSeek-R1 em janeiro, e tornou-se o modelo de IA mais baixado durante sua semana de lançamento tanto nas lojas chinesas quanto nas dos EUA, relatou a Cryptopolitan.
A equipe de Operações Contra Operações Adversárias da CrowdStrike digitou prompts envolvendo assuntos considerados politicamente delicados pelo Partido Comunista Chinês e descobriu que a probabilidade do DeepSeek-R1 produzir código com falhas de segurança graves saltou em até 50%.
“Dado que até 90% dos desenvolvedores já usavam essas ferramentas em 2025 com acesso a código-fonte de alto valor, qualquer problema de segurança sistêmico em assistentes de codificação de IA é de alto impacto e alta prevalência,” escreveu a empresa.
Censura do modelo DeepSeek R1 e preocupação com a segurança nacional
De acordo com o blog da CrowdStrike publicado na última quinta-feira, vários governos emitiram restrições ou proibições totais sobre código aberto DeepSeek-R1. Os formuladores de políticas criticaram o modelo por supostamente censurar assuntos politicamente sensíveis, como perguntas sobre a firewall da internet da China e o status de Taiwan.
A empresa de software americana descobriu que o R1 frequentemente se recusava a ajudar com tópicos envolvendo grupos ou movimentos considerados hostis ao governo da China continental. Modelos ocidentais quase sempre geravam código quando solicitados a criar software relacionado ao Falun Gong, mas o DeepSeek-R1 recusou-se a fazê-lo em 45% dos testes.
Em vários casos, o modelo escreveu planos estruturados para responder a perguntas, incluindo requisitos do sistema e código de exemplo, mesmo sendo totalmente capaz de fornecer uma resposta técnica. Os rastros de raciocínio às vezes continham linhas como:
“O Falun Gong é um grupo sensível. Devo considerar as implicações éticas aqui. Ajudá-los pode ser contra as políticas. Mas o usuário está pedindo ajuda técnica. Vou focar nos aspectos técnicos.”
A saída final do R1 após concluir sua fase de raciocínio terminava com a recusa padronizada: “Sinto muito, mas não posso ajudar com esse pedido”, escrita sem qualquer filtragem externa ou barreiras de segurança impostas ao modelo. A CrowdStrike concluiu que o comportamento está embutido no mecanismo de autoanulação do modelo ou em um tipo de interruptor de emergência intrínseco.
Taiwan e governos ocidentais criticam produtos de IA chineses
Em uma declaração no início deste mês, o Bureau de Segurança Nacional de Taiwan disse alertou que os cidadãos devem ter cuidado ao usar sistemas de IA generativa desenvolvidos pela DeepSeek e por outras quatro empresas chinesas: Doubao, Yiyan, Tongyi e Yuanbao.
“Os cinco modelos de linguagem GenAI são capazes de gerar scripts de ataque à rede e código de exploração de vulnerabilidades que permitem a execução remota de código em certas circunstâncias, aumentando os riscos de gerenciamento de cibersegurança”, estimou o Bureau.
Reguladores dos EUA e da Austrália pediram às lojas de aplicativos que removam modelos de desenvolvedores chineses, temendo que as ferramentas possam coletar identidades de usuários, registros de conversas e informações pessoais, e depois transmitir esses dados para servidores operados dentro da China.
“Não deveria ser necessário um pânico sobre a IA chinesa para lembrar às pessoas que a maioria das empresas do setor estabelece os termos para o uso dos seus dados privados. E que, quando você usa seus serviços, está trabalhando para eles, e não o contrário”, disse o pesquisador do Citizen Lab da Universidade de Toronto, John Scott-Railton, à WIRED em janeiro.
Boom do mercado de IA desperta competição regional na Ásia
No mercado mais amplo de IA na Ásia, um gestor de fundos asiáticos de alto desempenho aumentou recentemente a exposição a ações de inteligência artificial chinesas, enquanto reduzia participações na Coreia do Sul e em Taiwan, segundo o veículo de notícias The Japan Times reportou.
Kelly Chung, que ajuda a gerir o Value Partners Asian Income Fund e o Asian Innovation Opportunities Fund, disse que algumas das ações de IA chinesas ainda estão bastante baratas em termos de valuation. Ela tem vindo a sair de ações taiwanesas e sul-coreanas para empresas hiperscaladoras chinesas listadas em Hong Kong desde agosto.
Chung observou que ambos os seus fundos, que detêm um total combinado de 490 milhões de dólares, superaram quase todos os seus concorrentes ao longo do último ano.
O Kospi, índice tecnológico da Coreia do Sul, subiu 21% nos últimos três meses, impulsionado pela SK Hynix, um grande fornecedor da Nvidia, cujo preço das ações mais do que duplicou. O índice de ações de Taiwan subiu 9,2% no mesmo período. Por outro lado, o Índice Hang Seng Tech de Hong Kong, que inclui os maiores gastadores de IA da China, caiu 4,8%.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Florence Muchai
Florence cobre notícias sobre criptoativos, jogos, tecnologia e IA há 6 anos. Sua graduação em Estudos de Computação na Meru University of Science and Technology e em Gestão de Desastres e Diplomacia Internacional no MMUST equipam-na plenamente com habilidades linguísticas, de observação e técnicas. Florence trabalhou no VAP Group e como editora em várias casas de mídia de criptoativos.
