Z.ai rende open source ZCode dopo il caricamento di file locali senza consenso
- L'assistente di codifica ZCode di Z.ai è stato sorpreso a caricare silenziosamente i file locali degli sviluppatori, inclusi interi repository Git, su Alibaba Cloud senza consenso.
- L'azienda si è scusata, ha corretto la falla e ha reso open-source lo strumento.
- Gli archivi caricati sono stati cifrati con una chiave posseduta solo da Z.ai, quindi la sua affermazione secondo cui i dati sono stati eliminati non può essere verificata indipendentemente.
Z.ai, l'azienda cinese dietro la famiglia di modelli GLM, ha reso open source il suo assistente di codifica ZCode dopo aver corretto un difetto che inviava silenziosamente i file di progetto locali degli sviluppatori ai server di Alibaba Cloud senza il loro permesso.
L'incidente è avvenuto il 18 settembre, quando un blogger tecnologico cinese indipendente noto come Ferstar ha scoperto un problema durante l'ispezione della directory di lavoro di ZCode, trovando file preparati per il caricamento sullo storage cloud di Alibaba, ha riportato il South China Morning Post.
Il blogger ha trovato due file crittografati, tra cui un archivio compresso da 313 megabyte che era ancora in attesa di trasferimento dopo 564 tentativi di caricamento falliti, e un file più piccolo di 15 kilobyte che era già stato inviato.
Ferstar ha dichiarato che l'archivio più grande conteneva uno snapshot di un progetto commerciale che stava sviluppando, inclusa la sua cronologia Git. Ha detto al SCMP che né lui né il client ZCode potevano aprire il file perché era crittografato con una chiave privata detenuta sul back-end di Z.ai.
Come ZCode è finito per caricare interi repository
I caricamenti 'ribelli' erano collegati a una funzione di indicizzazione del repository utilizzata per i checkpoint di sessione, il rollback della versione e una 'Repo Wiki'. La funzione era abilitata per impostazione predefinita dopo il lancio di ZCode.
Il caricamento di interi repository può essere attivato creando una nuova pagina wiki nel cloud, e questo potrebbe esporre non solo i file su cui si sta lavorando attivamente. La cronologia Git può anche rendere facile l'identificazione con determinate credenziali e hostname vecchi, il che rende uno snapshot completo del repository piuttosto sensibile.
Uno sviluppatore con sede a Shanghai citato dal SCMP ha definito il comportamento essenzialmente un furto ai danni degli utenti, aggiungendo che la possibilità di un'intento malevolo è la parte più preoccupante.
Cosa Z.ai afferma di aver apportato modifiche
Z.ai si è scusata per l'incidente e sostiene di aver interrotto i caricamenti non autorizzati. L'azienda ha anche dichiarato che tutti i dati inviati al suo cloud sono stati distrutti e non sono mai stati utilizzati per l'addestramento dei suoi modelli.
Il produttore cinese di AI ha anche annunciato piani per stabilire un processo permanente per la segnalazione di vulnerabilità di sicurezza dei prodotti, con compensi basati sulla gravità del problema. Ha inoltre invitato gli sviluppatori a continuare ad auditare il codice ora open source.
Persistono domande sui dati caricati, poiché gli esterni non possono ancora verificare esattamente cosa ne sia stato.
Un incidente simile che ha coinvolto Grok Build di xAI si è verificato a luglio, quando lo strumento di codifica è stato trovato a caricare interi repository Git. Elon Musk ha confermato che i caricamenti erano avvenuti, dopo di che xAI ha eliminato i dati e ha introdotto una politica di zero conservazione insieme a un endpoint per la privacy. Un test indipendente successivo ha riscontrato che i caricamenti si erano fermati.
Z.ai non ha ancora annunciato alcun cambiamento documentato alla sua politica di conservazione né ha consentito alcuna forma di retest indipendente. L'affermazione dell'azienda che i dati caricati siano stati eliminati rimane piuttosto difficile da verificare per gli esterni, con l'azienda anche in controllo dell'unica chiave di decrittazione.
Gli sviluppatori ora devono decidere se fidarsi dello strumento
Le conseguenze di questo incidente continuano a diffondersi e una società di robotica avrebbe bandito gli strumenti di Z.ai a livello interno, con sviluppatori che hanno dichiarato al SCMP che il danno alla fiducia potrebbe potenzialmente essere molto più grave del semplice bug specifico.
L'incidente ha anche influenzato le azioni di Z.ai sul mercato. Le azioni di Z.ai (2513.HK) sono scese di quasi il 6% durante la sessione di lunedì prima di recuperare per chiudere con un aumento dell'1,8%. Z.ai è stata scambiata a 794 HKD al momento della scrittura.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.
