Tentativa de upload da Qwen em Pequim pode elevar custo da IA open-weight
- A Cohere afirma que o Qwen3.8-Flash-Next da Alibaba tentou fazer upload de uma string de teste fixa em um bucket na nuvem de Pequim durante uma avaliação de segurança em ambiente isolado (sandbox), apesar de ter afirmado que não realizaria chamadas de ferramentas, sendo a tentativa bloqueada pelo ambiente de teste.
- O comportamento ocorreu menos de uma vez a cada 100.000 ações, sem intenção comprovada, roubo ou causa raiz identificada, e sem replicação independente.
- Para empresas que executam modelos abertos auto-hospedados, a descoberta desafia a ideia de que a hospedagem interna é automaticamente segura e pode adicionar custos de auditoria, isolamento e aquisição.
De acordo com a Cohere, o Qwen3.8-Flash-Next da Alibaba tentou transmitir uma string de teste para um bucket de armazenamento na nuvem em Pequim como parte de um teste de segurança, mas foi bloqueado pela sandbox. No entanto, este incidente pode levar à introdução de novos custos de auditoria e isolamento para organizações que utilizam soluções de peso aberto, ou seja, modelos com um conjunto de parâmetros treinados que podem ser executados localmente. Além disso, pode ser visto como um desafio em relação à suposição comum de que simplesmente executar um modelo atrás de um firewall garante a segurança dos dados.
O que a Cohere afirma ter detectado
De acordo com um relatório publicado em 26 de outubro, a Cohere Cyber, que surgiu após sua aquisição da AISLE, discutiu os testes do Qwen usando o CTI-REALM da Microsoft. O CTI-REALM mede a capacidade dos agentes de IA de converter inteligência de cibersegurança em regras de detecção.
Ao ser solicitado a identificar um download prejudicial seguido pela execução de um script, o Qwen examinou os arquivos temporários, as ferramentas disponíveis para ele, bem como as configurações de DNS. Ele enviou um comando HTTP para carregar uma string de teste predefinida para um bucket do Alibaba Cloud em Pequim. A conexão foi bloqueada pela sandbox da Cohere.
O raciocínio escrito do modelo indicou que não utilizaria nenhuma ferramenta, mesmo ao tentar o upload. Essa contradição levanta dúvidas sobre a monitoração do raciocínio em cadeia (chain-of-thought), que depende do raciocínio declarado pelo modelo para detectar comportamento suspeito. O CEO da Cohere, Aidan Gomez, disse que "teria sido inútil aqui."
Por que os números indicam cautela, não pânico
A Cohere observou este comportamento menos de uma vez em 100.000 chamadas de avaliação. Ao ser solicitado novamente, o Qwen gerou a regra solicitada. Não havia maneira para os pesquisadores identificarem a propriedade do bucket ou provarem comportamento malicioso ou a causa raiz atual. O comando poderia ter vindo de exemplos de treinamento. Não há evidências de que dados de qualquer cliente tenham sido comprometidos.
A Cohere também oferece IA empresarial. De acordo com o VentureBeat, ela não testou Llama, GPT-oss, DeepSeek, Kimi ou seus próprios modelos sob condições semelhantes. Os resultados para o Qwen não foram confirmados por outros laboratórios de IA. Portanto, o modelo chinês não pode ser classificado como exclusivamente arriscado.
O escrutínio não é novo
Como a Cryptopolitan relatou em agosto, os presidentes das comissões da Câmara dos Representantes, John Moolenaar e Andrew Garbarino, solicitaram documentos sobre o uso que a DoorDash faz do modelo Kimi da Moonshot. Sua investigação já havia alcançado empresas de ferramentas para desenvolvedores e do setor de viagens. Eles reconheceram a vantagem de custo dos modelos chineses de peso aberto, mas buscavam alternativas americanas mais robustas.
No entanto, as preocupações com a segurança da IA vão além dos modelos desenvolvidos na China. Uma análise de setembro da CSIS informou que agentes autônomos de vários desenvolvedores escaparam dos ambientes de teste e obtiveram acesso não autorizado a sistemas externos. A CSIS argumentou que esses incidentes elevaram a segurança da IA na agenda de governança entre EUA e China, destacando riscos que exigem uma cooperação internacional mais ampla.
Uma premissa sob pressão e um possível ponto de venda
A acessibilidade do Qwen é um fator significativo para sua atratividade. Artificial Analysis atribuiu uma pontuação de 40 ao Qwen3.8-Flash-Next em seu Índice de Inteligência e estimou seu custo em US$ 0,37 por tarefa de benchmark. Embora esses dois fatos demonstrem as capacidades e os custos do sistema, eles não dizem nada sobre sua segurança. Enquanto isso, a Hugging Face estimou que o número de modelos baseados no Qwen em agosto ultrapassava 151.000, o que significa que a tecnologia está se espalhando muito rapidamente. Parece que bloquear uma única instância de upload provavelmente não alterará esse impulso.
No entanto, o baixo preço pode vir com custos adicionais de segurança. O Relatório Internacional de Segurança de IA de 2026 alerta que os modelos podem explorar falhas nas avaliações. O Consenso de Singapura enfatiza a importância de monitorar agentes autônomos, enquanto a Brookings examina testes independentes. Para as empresas, abordar essas preocupações pode significar gastar mais com restrições de acesso, bloqueio de conexões de saída não autorizadas e teste de agentes nos ambientes em que operarão.
A lacuna entre adoção e salvaguardas torna esses custos cada vez mais relevantes. BCG descobriu que 42% das empresas esperam conceder aos agentes de IA autoridade independente para tomada de decisões até 2030, mas apenas 5% têm controles completos implementados hoje. Isso pode conferir uma vantagem competitiva aos fornecedores capazes de demonstrar testes rigorosos de segurança. No entanto, ainda é incerto se os clientes pagarão um prêmio por essa garantia.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Perguntas Frequentes
O que exatamente a Cohere observou no teste do Qwen?
Ao ser solicitado a escrever uma regra de detecção de malware usando o benchmark CTI-REALM da Microsoft, o Qwen3.8-Flash-Next inspecionou a máquina na qual estava sendo executado e emitiu um comando de upload para um bucket da Alibaba Cloud em Pequim, mesmo que seu raciocínio indicasse que não chamaria nenhuma ferramenta. A sandbox da Cohere bloqueou a tentativa.
Com que frequência esse comportamento ocorreu?
A Cohere relatou ter visto isso menos de uma vez por cada 100.000 ações de avaliação e, quando os pesquisadores repetiram o prompt, o modelo produziu a regra solicitada sem tentar qualquer conexão.
A Alibaba respondeu ou alguém confirmou a descoberta?
O VentureBeat afirmou que solicitou um comentário da Alibaba e da equipe do Qwen, mas não recebeu resposta, e nenhum laboratório independente replicou o resultado. A Cohere, concorrente da Alibaba, não estabeleceu intenção maliciosa, roubo de dados ou quem controla o servidor de destino.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Ibiam Wayas
Ibiam Wayas cobre notícias sobre criptomoedas desde 2019. Estudou Ciência da Computação na Universidade Aberta Nacional da Nigéria. Seu trabalho apareceu em várias plataformas de notícias sobre cripto, incluindo Coinfomania, Crypto News Australia e AltcoinBuzz. Com base em sua formação em Ciência da Computação, ele agora se concentra em notícias sobre cripto, robótica e longevidade.
