Z.ai open-source ZCode après le téléchargement de fichiers locaux sans consentement

Z.ai, l'entreprise chinoise derrière la famille de modèles GLM, a open-sourcé son assistant de codage ZCode après avoir corrigé un défaut qui envoyait silencieusement les fichiers de projet locaux des développeurs aux serveurs d'Alibaba Cloud sans leur permission.

L'incident s'est produit le 18 septembre, lorsqu'un blogueur technologique chinois indépendant connu sous le nom de Ferstar a découvert un problème lors de l'inspection du répertoire de travail de ZCode, trouvant des fichiers préparés pour le téléchargement vers le stockage cloud d'Alibaba, a rapporté le South China Morning Post.

Le blogueur a trouvé deux fichiers chiffrés, dont une archive compressée de 313 mégaoctets qui attendait toujours son transfert après 564 tentatives de téléchargement échouées, et un fichier plus petit de 15 kilooctets qui avait déjà été envoyé.

Ferstar a déclaré que l'archive plus grande contenait une capture d'un projet commercial qu'il développait, y compris son historique Git. Il a dit au SCMP que ni lui ni le client ZCode ne pouvaient ouvrir le fichier car il était chiffré avec une clé privée détenue par le backend de Z.ai.

Comment ZCode a fini par télécharger des dépôts entiers

Les téléchargements « rebelles » étaient liés à une fonctionnalité d'indexation des dépôts utilisée pour les points de contrôle de session, la restauration de versions et un « Wiki Repo ». La fonctionnalité était activée par défaut après le lancement de ZCode.

Des téléchargements de dépôts entiers peuvent être déclenchés en créant une nouvelle page wiki dans le cloud, et cela pourrait exposer plus que simplement les fichiers sur lesquels on travaille activement. L'historique Git peut également faciliter l'identification avec d'anciens identifiants et noms d'hôte, ce qui rend une capture complète du dépôt assez sensible.

Un développeur basé à Shanghai cité par le SCMP a décrit ce comportement comme étant essentiellement du vol à l'encontre des utilisateurs, ajoutant que la possibilité d'une intention malveillante était la partie la plus troublante.

Quoi Z.ai indique qu'il a apporté des modifications

Z.ai s'est excusé pour l'incident et affirme avoir arrêté les téléchargements non autorisés. L'entreprise a également déclaré que toutes les données qui avaient été envoyées à son cloud ont été détruites et n'ont jamais été utilisées dans l'entraînement de ses modèles.

Le fabricant chinois d'IA a également annoncé son intention de mettre en place un processus permanent pour signaler les vulnérabilités de sécurité des produits, avec des paiements basés sur la gravité du problème. Il a également invité les développeurs à continuer d'auditer la base de code désormais ouverte.

Des questions persistent concernant les données téléchargées, car les tiers ne peuvent toujours pas vérifier exactement ce qui est advenu de celles-ci.

Un incident similaire impliquant Grok Build d'xAI s'est produit en juillet, lorsque l'outil de codage a été trouvé en train de télécharger des dépôts Git entiers. Elon Musk a confirmé que les téléchargements avaient eu lieu, après quoi xAI a supprimé les données et a introduit une politique de rétention zéro ainsi qu'un point de terminaison de confidentialité. Un retest indépendant a ensuite constaté que les téléchargements s'étaient arrêtés.

Z.ai n'a toujours pas annoncé de changements documentés à sa politique de rétention ni autorisé aucune forme de retest indépendant. L'affirmation de l'entreprise selon laquelle les données téléchargées ont été supprimées reste difficile à vérifier pour les tiers, l'entreprise détenant également la seule clé de déchiffrement.

Les développeurs doivent maintenant décider s'ils font confiance à l'outil

Les retombées de cet incident continuent de se propager, et une entreprise de robotique aurait banni les outils de Z.ai en interne, des développeurs ayant déclaré au SCMP que les dégâts causés à la confiance pourraient potentiellement être bien plus importants que le bug spécifique lui-même.

L'incident a également affecté les actions de Z.ai sur le marché. Les actions de Z.ai (2513.HK) ont chuté de près de 6 % lors de la séance de lundi avant de se redresser pour clôturer en hausse de 1,8 %. Z.ai était négocié à 794 HKD au moment de la rédaction.