Protect AI lancia Guardian per proteggere i modelli di Machine Learning dal codice malevolo

Protect AI, un leader nel settore della sicurezza AI, ha presentato la sua ultima innovazione, Guardian. Questa soluzione all'avanguardia consente alle organizzazioni di applicare politiche di sicurezza robuste ai propri modelli di machine learning, assicurando che il codice malevolo non si infiltrino nei loro ambienti AI.

Costruito sulle fondamenta dello strumento open-source di Protect AI, ModelScan, Guardian combina funzionalità open-source con capacità di scansione proprietarie, fornendo una sicurezza completa dei modelli per le imprese.

Affrontare i rischi dell'AI/ML democratizzata

La democratizzazione dell'intelligenza artificiale e del machine learning ha portato alla vasta disponibilità di modelli fondamentali su piattaforme come Hugging Face. Questi modelli, scaricati da milioni di utenti ogni mese, svolgono un ruolo cruciale nell'alimentare una vasta gamma di applicazioni AI. 

Tuttavia, questa accessibilità ha anche introdotto vulnerabilità di sicurezza, poiché lo scambio aperto di file su questi repository può involontariamente facilitare la diffusione di software malevolo tra gli utenti.

Ian Swanson, CEO di Protect AI, ha dichiarato: “I modelli di machine learning sono diventati asset integrali nell'infrastruttura di un'organizzazione, ma spesso mancano dei rigorosi controlli antivirus e di codice malevolo che altri tipi di file ricevono prima dell'uso. 

Con migliaia di modelli scaricati milioni di volte da piattaforme come Hugging Face ogni mese, il potenziale per l'infiltrazione di codice pericoloso è significativo. Guardian consente ai clienti di riprendere il controllo sulla sicurezza dei modelli open-source.”

Guardian: Protezione contro gli attacchi di serializzazione dei modelli

Uno dei rischi critici associati ai modelli di machine learning condivisi apertamente è l'attacco di Serializzazione del Modello. Questo si verifica quando il codice malware viene iniettato in un modello durante la serializzazione (salvataggio) e prima della distribuzione, creando una versione moderna del Cavallo di Troia. 

Una volta incorporato all'interno di un modello, questo codice malevolo nascosto può essere eseguito per rubare dati sensibili, compromettere le credenziali, manipolare i dati e altro ancora. Questi rischi sono prevalenti nei modelli ospitati su grandi repository come Hugging Face.

Protect AI ha precedentemente lanciato ModelScan, uno strumento open-source progettato per scansionare i modelli AI/ML alla ricerca di potenziali attacchi, proteggendo i sistemi contro le vulnerabilità della catena di approvvigionamento. Dalla sua nascita, Protect AI ha utilizzato ModelScan per valutare oltre 400.000 modelli ospitati su Hugging Face, identificando modelli con difetti di sicurezza e aggiornando continuamente questa base di conoscenza.

Ad oggi, sono stati scoperti oltre 3.300 modelli che possiedono la capacità di eseguire codice illegittimo. Questi modelli continuano a essere scaricati e distribuiti negli ambienti ML senza adeguate misure di sicurezza per scansionarli alla ricerca di potenziali rischi prima dell'adozione.

Guardian: Il gateway sicuro per lo sviluppo e la distribuzione dei modelli

A differenza di altre alternative open-source, Guardian di Protect AI è un gateway sicuro, colmando il divario tra i processi di sviluppo e distribuzione del ML che si affidano a piattaforme come Hugging Face e altri repository di modelli. 

Guardian impiega scanner di vulnerabilità proprietari, tra cui uno specializzato per gli strati lambda di Keras, per ispezionare proattivamente i modelli open-source alla ricerca di codice malevolo, garantendo l'utilizzo di modelli sicuri e conformi alle politiche all'interno delle reti organizzative.

Controllo degli accessi migliorato e informazioni complete

Guardian offre funzionalità avanzate di controllo degli accessi e dashboard intuitive che concedono ai team di sicurezza il controllo completo sull'ingresso dei model, fornendo al contempo informazioni complete sulle origini dei modelli, sui creatori e sulle licenze. Questo livello di trasparenza garantisce che le organizzazioni possano prendere decisioni informate sui modelli che incorporano nei loro ambienti AI.

Inoltre, Guardian si integra con i framework di sicurezza esistenti e completa Protect AI’s Radar, offrendo una vasta visibilità della superficie di minaccia per l'AI e il machine learning all'interno delle organizzazioni.