Z.ai abre el código de ZCode después de que se subieran archivos locales sin consentimiento

Z.ai, la empresa china detrás de la familia de modelos GLM, ha abierto el código de su asistente de codificación ZCode después de corregir un defecto que enviaba silenciosamente los archivos locales de los proyectos de los desarrolladores a los servidores de Alibaba Cloud sin su permiso.

El incidente ocurrió el 18 de septiembre, cuando un bloguero independiente de tecnología china conocido como Ferstar descubrió un problema al inspeccionar el directorio de trabajo de ZCode, encontrando archivos preparados para su carga en el almacenamiento en la nube de Alibaba, informó el South China Morning Post.

El bloguero encontró dos archivos encriptados, incluido un archivo comprimido de 313 megabytes que aún esperaba ser transferido después de 564 intentos de carga fallidos, y un archivo más pequeño de 15 kilobytes que ya había sido enviado.

Ferstar dijo que el archivo más grande contenía una instantánea de un proyecto comercial que estaba desarrollando, incluida su historial de Git. Le dijo al SCMP que ni él ni el cliente de ZCode podían abrir el archivo porque estaba encriptado con una clave privada almacenada en el backend de Z.ai.

Cómo ZCode terminó subiendo repositorios enteros

Las cargas 'rebeldes' estaban vinculadas a una función de indexación de repositorios utilizada para puntos de control de sesión, reversión de versiones y una "Wiki del Repositorio". La función estaba habilitada de forma predeterminada después del lanzamiento de ZCode.

Las cargas completas de repositorios pueden activarse creando una nueva página wiki dentro de la nube, y esto podría exponer más que solo los archivos en los que se trabaja activamente. El historial de Git también puede facilitar la identificación con ciertas credenciales antiguas y nombres de host, lo que hace que una instantánea completa del repositorio sea bastante sensible.

Un desarrollador con sede en Shanghái citado por el SCMP describió el comportamiento como esencialmente un robo a los usuarios, añadiendo que la posibilidad de una intención maliciosa era la parte más preocupante.

Qué Z.ai afirma que ha cambiado

Z.ai se ha disculpado por el incidente y afirma que ha detenido las cargas no autorizadas. La empresa también dijo que cualquier dato que se hubiera enviado a su nube fue destruido y nunca se utilizó en el entrenamiento de sus modelos.

El fabricante de IA chino también declaró sus planes para establecer un proceso permanente para informar sobre vulnerabilidades de seguridad de los productos, con pagos basados en la gravedad del problema. También ha invitado a los desarrolladores a continuar auditando la base de código ahora abierta.

Persisten las preguntas sobre los datos subidos, ya que los externos aún no pueden verificar exactamente qué sucedió con ellos.

Un incidente similar que involucró a Grok Build de xAI ocurrió en julio, cuando se descubrió que la herramienta de codificación estaba subiendo repositorios Git completos. Elon Musk confirmó que las cargas habían ocurrido, después de lo cual xAI eliminó los datos e introdujo una política de retención cero junto con un punto final de privacidad. Una prueba de repetición independiente posterior encontró que las cargas se habían detenido.

Z.ai aún no ha anunciado ningún cambio documentado en su política de retención ni ha permitido ninguna forma de prueba de repetición independiente. La afirmación de la empresa de que los datos subidos fueron eliminados sigue siendo difícil de verificar para los externos, con la empresa también controlando la única clave de descifrado.

Los desarrolladores ahora tienen que decidir si confían en la herramienta

Las consecuencias de este incidente han seguido extendiéndose, y se ha informado que una empresa de robótica ha prohibido las herramientas de Z.ai internamente, con desarrolladores que le dijeron al SCMP que el daño a la confianza podría ser potencialmente mucho más perjudicial que solo el error específico.

El incidente también ha afectado a las acciones de Z.ai en el mercado. Las acciones de Z.ai (2513.HK) cayeron casi un 6% durante la sesión del lunes antes de recuperarse para cerrar un 1,8% más alto. Z.ai se negociaba a 794 HKD al momento de la redacción.