Z.ai lança o ZCode como código aberto após ferramenta fazer upload de arquivos locais sem consentimento

A Z.ai, a empresa chinesa por trás da família de modelos GLM, lançou o ZCode como código aberto após corrigir uma falha que estava enviando silenciosamente os arquivos locais dos projetos dos desenvolvedores para os servidores da Alibaba Cloud sem sua permissão.

O incidente ocorreu em 18 de setembro, quando um blogueiro de tecnologia chinês independente conhecido como Ferstar descobriu um problema ao inspecionar o diretório de trabalho do ZCode, encontrando arquivos sendo preparados para upload para o armazenamento em nuvem da Alibaba, relatou o South China Morning Post.

O blogueiro encontrou dois arquivos criptografados, incluindo um arquivo compactado de 313 megabytes que ainda aguardava transferência após 564 tentativas de upload falhas, e um arquivo menor de 15 kilobytes que já havia sido enviado.

Ferstar disse que o arquivo maior continha uma captura de tela de um projeto comercial que ele estava desenvolvendo, incluindo seu histórico do Git. Ele disse ao SCMP que nem ele nem o cliente ZCode podiam abrir o arquivo porque ele estava criptografado com uma chave privada mantida no back-end da Z.ai.

Como o ZCode acabou fazendo upload de repositórios inteiros

Os uploads 'rebeldes' estavam ligados a um recurso de indexação de repositórios usado para checkpoints de sessão, rollback de versão e um “Repo Wiki”. O recurso foi ativado por padrão após o lançamento do ZCode.

Uploads inteiros de repositórios podem ser acionados criando uma nova página wiki na nuvem, e isso pode expor mais do que apenas os arquivos que estão sendo trabalhados ativamente. O histórico do Git também pode facilitar a identificação com certas credenciais antigas e nomes de host, o que torna uma captura de tela completa do repositório bastante sensível.

Um desenvolvedor baseado em Xangai citado pelo SCMP descreveu o comportamento como essencialmente roubar dos usuários, acrescentando que a possibilidade de intenção maliciosa era a parte mais preocupante.

O que Z.ai diz que mudou

A Z.ai se desculpou pelo incidente e afirma que interrompeu os uploads não autorizados. A empresa também disse que quaisquer dados que haviam sido enviados para sua nuvem foram destruídos e nunca foram usados no treinamento de seus modelos.

O fabricante chinês de IA também anunciou planos de estabelecer um processo permanente para relatar vulnerabilidades de segurança de produtos, com pagamentos baseados na gravidade do problema. Ela também convidou os desenvolvedores a continuarem auditando o código agora aberto.

Persistem dúvidas sobre os dados enviados, já que os externos ainda não podem verificar exatamente o que aconteceu com eles.

Um incidente semelhante envolvendo o Grok Build da xAI ocorreu em julho, quando a ferramenta de codificação foi encontrada fazendo upload de repositórios Git inteiros. Elon Musk confirmou que os uploads aconteceram, após o que a xAI excluiu os dados e introduziu uma política de retenção zero junto com um endpoint de privacidade. Um teste independente posterior descobriu que os uploads haviam cessado.

A Z.ai ainda não anunciou nenhuma alteração documentada em sua política de retenção ou permitiu qualquer forma de reteste independente. A afirmação da empresa de que os dados enviados foram excluídos permanece bastante difícil de ser verificada por externos, com a empresa também sendo a controladora da única chave de descriptografia.

Os desenvolvedores agora precisam decidir se confiam na ferramenta

As consequências deste incidente continuaram a se espalhar, e uma empresa de robótica teria banido as ferramentas da Z.ai internamente, com desenvolvedores dizendo ao SCMP que o dano à confiança poderia potencialmente ser muito mais prejudicial do que apenas o bug específico.

O incidente também afetou as ações da Z.ai no mercado. As ações da Z.ai (2513.HK) caíram quase 6% durante a sessão de segunda-feira antes de se recuperar para fechar com um aumento de 1,8%. A Z.ai negociava a 794 HKD no momento da redação.