Hugging Face riceve un numero enorme di modelli di intelligenza artificiale per test e valutazioni, vulnerabili agli hacker. Il tasso di adattamento dell'intelligenza artificiale è senza precedenti. Questa frenesia ha contribuito allo sviluppo di molti strumenti utili, ma allo stesso tempo ha fornito agli hacker un modo più rapido e semplice per implementare le loro strategie dannose. A proposito di Hugging Face, gli hacker avevano un modo per recuperare le informazioni degli utenti eseguendo i propri codici.
Secondo i ricercatori dell'azienda di sicurezza cloud WIZ, l'architettura di sistema in cui venivano eseguiti i modelli di ML (machine learning) presentava due gravi falle. Queste falle, ovvero il rischio di acquisizione dell'infrastruttura di inferenza condivisa e il rischio di acquisizione dell'integrazione continua e distribuzione continua (CI/CD) condivisa, lasciavano gli utenti in balia dei black-hat jack. In parole più semplici, queste falle fornivano agli hacker un modo segreto per caricare i propri codici, il che consentiva loro di manomettere i registri.
La partnership tra Hugging Face e WIZ per esplorare le carenze
Gli hacker potevano accedere in modo non autorizzato ai dati di altri utenti caricando i propri modelli di intelligenza artificiale dannosi. Questo rappresentava un grosso problema e avrebbe potuto compromettere la dent di Hugging Face, poiché queste piattaforme sono ampiamente utilizzate per l'archiviazione e l'elaborazione di modelli di intelligenza artificiale come piattaforma di intelligenza artificiale come servizio (AlaaS). WIZ ha collaborato con aziende AaaS per individuare vulnerabilità di sicurezza in queste piattaforme. Nel caso di Hugging Face, la sua immensa popolarità e adozione l'hanno portata nel mirino degli hacker. La collaborazione di WIZ ha offerto a Hugging Face una buona opportunità per porre rimedio alle carenze del suo sistema e rafforzare le misure di sicurezza della piattaforma.
Come sappiamo, i modelli di intelligenza artificiale richiedono una GPU più potente per eseguire le loro funzioni, per cui startup e altri fornitori più piccoli si affidano ad aziende fornitrici di servizi di intelligenza artificiale. Anche l'API di interfaccia di Hugging Face fornisce lo stesso servizio. Nel processo, WIZ Research ha eseguito il proprio modello di intelligenza artificiale con alcune funzionalità dannose che hanno compromesso il servizio Hugging Face. Ciò ha reso il sistema vulnerabile e WIZ ha potuto accedere ai modelli di altri clienti che utilizzavano il servizio Hugging Face.
Soluzioni e rimedi per la protezione sulle piattaforme Alaas
WIZ ha dichiarato sul suo blog che queste carenze e scoperte non affliggono solo Hugging Face, ma hanno implicazioni più ampie per l'intero settore dell'intelligenza artificiale come servizio. Tutti gli attori del settore sono a rischio, poiché gli hacker li considerano un GitHub di modelli di intelligenza artificiale e cercano di ottenere illegalmente l'accesso multiutente.
Hugging Face e Wiz hanno suggerito congiuntamente alcune precauzioni per prevenire violazioni della sicurezza, consigliando rigorosi controlli di sicurezza e un monitoraggio regolare delle attività. Hanno inoltre suggerito di utilizzare registri sicuri e di fornire un ambiente sandbox per l'esecuzione delle applicazioni utente, rendendo più protetti gli spazi in cui archiviano i loro codici per impedire l'accesso tra utenti.
