Z.ai rende open source ZCode dopo che lo strumento ha caricato file locali senza consenso

Z.ai, l'azienda cinese che ha sviluppato la famiglia di modelli GLM, ha reso open source il suo assistente di programmazione ZCode dopo aver corretto una vulnerabilità che inviava silenziosamente i file di progetto locali degli sviluppatori ai server di Alibaba Cloud senza la loro autorizzazione.

L'dent è avvenuto il 18 settembre, quando un blogger tecnologico cinesedent , noto come Ferstar, ha scoperto un problema durante l'ispezione della directory di lavoro di ZCode, trovando file in fase di preparazione per il caricamento sul servizio di cloud storage di Alibaba, come riportato dal South China Morning Post.

Il blogger ha trovato due file crittografati, tra cui un archivio compresso di 313 megabyte che era ancora in attesa di trasferimento dopo 564 tentativi di caricamento falliti, e un file più piccolo di 15 kilobyte che era già stato inviato.

Ferstar ha dichiarato che l'archivio più grande conteneva un'istantanea di un progetto commerciale che stava sviluppando, inclusa la sua cronologia Git. Ha riferito al SCMP che né lui né il client ZCode potevano aprire il file perché era crittografato con una chiave privata custodita nel back-end di Z.ai.

Come ZCode è finito per caricare interi repository

I caricamenti "ribelli" erano collegati a una funzionalità di indicizzazione del repository utilizzata per i checkpoint di sessione, il rollback delle versioni e una "Wiki del repository". Questa funzionalità era abilitata di default dopo il lancio di ZCode.

L'intero caricamento di un repository può essere attivato creando una nuova pagina wiki nel cloud, e questo potrebbe esporre più dei semplici file su cui si sta lavorando attivamente. La cronologia di Git può anche facilitare l'dentcon determinate vecchiedente nomi host, il che rende un'istantanea completa del repository piuttosto vulnerabile.

Uno sviluppatore con sede a Shanghai, citato dal South China Morning Post, ha descritto tale comportamento come un vero e proprio furto ai danni degli utenti, aggiungendo che la possibilità di intenti malevoli è l'aspetto più preoccupante.

Ciò che Z.ai afferma di aver cambiato

Z.ai si è scusata per l'dent e ha affermato di aver bloccato i caricamenti non autorizzati. L'azienda ha inoltre dichiarato che tutti i dati inviati al suo cloud sono stati distrutti e non sono mai stati utilizzati per l'addestramento dei suoi modelli.

Il produttore cinese di intelligenza artificiale ha inoltre annunciato l'intenzione di istituire una procedura permanente per la segnalazione delle vulnerabilità di sicurezza dei prodotti, con compensi basati sulla gravità del problema. Ha anche invitato gli sviluppatori a continuare a effettuare verifiche sul codice sorgente, ora reso pubblico.

Permangono dubbi sui dati caricati, poiché gli esterni non sono ancora in grado di verificare con esattezza cosa ne sia stato.

Undent simile, che ha coinvolto Grok Build di xAI, si è verificato a luglio, quando è stato scoperto che lo strumento di programmazione caricava interi repository Git. Elon Musk ha confermato che i caricamenti erano avvenuti, dopodiché xAI ha cancellato i dati e introdotto una politica di conservazione zero insieme a un endpoint per la privacy. Un successivo testdent ha rilevato che i caricamenti erano cessati.

Z.ai non ha ancora annunciato alcuna modifica documentata alla sua politica di conservazione dei dati né ha consentito alcuna forma di verificadent . L'affermazione dell'azienda secondo cui i dati caricati sono stati cancellati rimane piuttosto difficile da verificare per soggetti esterni, dato che l'azienda detiene anche l'unica chiave di decrittazione.

Gli sviluppatori ora devono decidere se fidarsi dello strumento

Le ripercussioni di questo incidentedent a diffondersi e, secondo quanto riportato, un'azienda di robotica avrebbe vietato gli strumenti di Z.ai. Gli sviluppatori hanno dichiarato al South China Morning Post che il danno alla fiducia potrebbe essere potenzialmente molto più grave del semplice bug specifico.

L'dent ha avuto ripercussioni anche sul titolo Z.ai in borsa. Le azioni di Z.ai (2513.HK) sono crollate di quasi il 6% durante la seduta di lunedì, per poi recuperare e chiudere in rialzo dell'1,8%. Al momento della stesura di questo articolo, le azioni Z.ai erano scambiate a 794 HKD.