Z.ai veröffentlicht ZCode als Open Source, nachdem Tools lokale Dateien ohne Zustimmung hochgeladen hatte
- Z.ais ZCode-Coding-Assistant wurde dabei erwischt, wie es stillschweigend lokale Dateien von Entwicklern, einschließlich vollständiger Git-Repositories, ohne Einwilligung an Alibaba Cloud hochlud.
- Das Unternehmen hat sich entschuldigt, den Fehler behoben und das Tool quelloffen gestellt.
- Die hochgeladenen Archive wurden mit einem Schlüssel verschlüsselt, den nur Z.ai besitzt, sodass die Behauptung, die Daten seien gelöscht worden, nicht unabhängig überprüft werden kann.
Z.ai, das chinesische Unternehmen hinter der GLM-Modellfamilie, hat seinen Coding-Assistenten ZCode als Open Source veröffentlicht, nachdem ein Fehler behoben wurde, der heimlich lokale Projektdateien von Entwicklern ohne deren Erlaubnis an Alibaba-Cloud-Server gesendet hatte.
Der Vorfall ereignete sich am 18. September, als ein unabhängiger chinesischer Technologie-Blogger namens Ferstar bei der Inspektion des Arbeitsverzeichnisses von ZCode ein Problem entdeckte und feststellte, dass Dateien für den Upload in Alibabas Cloud-Speicher vorbereitet wurden, berichtete die South China Morning Post.
Der Blogger fand zwei verschlüsselte Dateien, darunter ein 313 Megabyte großes komprimiertes Archiv, das nach 564 fehlgeschlagenen Upload-Versuchen noch ausstand, sowie eine kleinere 15-Kilobyte-Datei, die bereits gesendet worden war.
Ferstar sagte, das größere Archiv enthielt einen Schnappschuss eines kommerziellen Projekts, das er entwickelte, einschließlich seiner Git-Verlauf. Er sagte dem SCMP, dass weder er noch der ZCode-Client die Datei öffnen konnten, da sie mit einem privaten Schlüssel verschlüsselt war, der auf der Backend-Seite von Z.ai gespeichert ist.
Wie ZCode dazu kam, ganze Repositories hochzuladen
Die „rebellischen“ Uploads waren mit einer Repository-Indexierungsfunktion verknüpft, die für Sitzungs-Checkpoints, Version-Rollbacks und ein „Repo Wiki“ verwendet wurde. Die Funktion war nach dem Start von ZCode standardmäßig aktiviert.
Ganze Repository-Uploads können durch Erstellen einer neuen Wiki-Seite in der Cloud ausgelöst werden, was mehr als nur die aktiv bearbeiteten Dateien offenlegen könnte. Der Git-Verlauf kann es auch erleichtern, bestimmte alte Anmeldeinformationen und Hostnamen zu identifizieren, was einen vollständigen Repository-Schnappschuss sehr sensibel macht.
Ein in Shanghai ansässiger Entwickler zitiert von der SCMP beschrieb das Verhalten im Wesentlichen als Diebstahl von Nutzern und fügte hinzu, dass die Möglichkeit böswilliger Absichten der beunruhigendste Teil sei.
Was Z.ai gibt an, dass es geändert hat
Z.ai hat sich für den Vorfall entschuldigt und behauptet, die unbefugten Uploads gestoppt zu haben. Das Unternehmen sagte auch, dass alle Daten, die an seine Cloud gesendet wurden, zerstört und niemals für das Training seiner Modelle verwendet wurden.
Der chinesische KI-Hersteller kündigte auch Pläne an, einen dauerhaften Prozess zur Meldung von Produktsicherheitslücken einzurichten, mit Auszahlungen basierend auf der Schwere des Problems. Es hat Entwickler auch eingeladen, die nun offene Codebasis weiterhin zu überprüfen.
Fragen bezüglich der hochgeladenen Daten bestehen weiterhin, da Außenstehende immer noch nicht genau überprüfen können, was mit ihnen geschehen ist.
Ein ähnlicher Vorfall mit xAIs Grok Build ereignete sich im Juli, als das Coding-Tool gefunden wurde, das ganze Git-Repositories hochlud. Elon Musk bestätigte, dass die Uploads stattgefunden hatten, woraufhin xAI die Daten löschte und eine Zero-Retention-Policy sowie einen Privacy-Endpoint einführte. Ein unabhängiger Retest ergab später, dass die Uploads gestoppt hatten.
Z.ai hat immer noch keine dokumentierten Änderungen an seiner Retention-Policy bekannt gegeben oder任何形式的 unabhängige Retests zugelassen. Die Behauptung des Unternehmens, dass die hochgeladenen Daten gelöscht wurden, bleibt für Außenstehende schwer zu überprüfen, da das Unternehmen im Besitz des einzigen Entschlüsselungsschlüssels ist.
Entwickler müssen nun entscheiden, ob sie dem Tool vertrauen
Die Folgen dieses Vorfalls haben sich weiter ausgebreitet, und ein Robotikunternehmen hat reportedly Z.ai-Tools intern verboten. Entwickler sagten dem SCMP, dass der Vertrauensschaden potenziell weitaus schwerwiegender sein könnte als der spezifische Bug.
Der Vorfall hat sich auch auf die Aktien von Z.ai am Markt ausgewirkt. Die Aktien von Z.ai (2513.HK) fielen während der Sitzung am Montag um fast 6 %, bevor sie sich erholten und um 1,8 % höher schlossen. Z.ai wurde zum Zeitpunkt der Erstellung mit 794 HKD gehandelt.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Opeyemi Olanrewaju
Opeyemi spezialisiert sich auf die Erstellung und Verfeinerung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und die Wirtschaft. Er absolvierte sein Studium an der University of Ibadan mit einem MBBS-Abschluss. Er war Chefredakteur der redaktionellen Publikation seines Colleges und zuvor bei CFA tätig. Seit über sechs Jahren sorgt er als News Editor bei Cryptopolitan für die Einzigartigkeit der Inhalte.
