Protect AI lance Guardian pour protéger les modèles d'apprentissage automatique contre le code malveillant

Protect AI, un acteur leader dans la sécurité IA, a dévoilé sa dernière innovation, Guardian. Cette solution de pointe permet aux organisations de mettre en œuvre des politiques de sécurité robustes sur leurs modèles d'apprentissage automatique, garantissant que le code malveillant ne s'infiltre pas dans leurs environnements IA.

Construit sur les fondations de l'outil open-source de Protect AI, ModelScan, Guardian combine les capacités open-source avec des fonctionnalités de numérisation propriétaires, fournissant une sécurité complète des modèles pour les entreprises.

Aborder les risques de l'IA/ML démocratisée

La démocratisation de l'intelligence artificielle et de l'apprentissage automatique a conduit à la disponibilité généralisée de modèles fondamentaux sur des plateformes comme Hugging Face. Ces modèles, téléchargés par des millions d'utilisateurs chaque mois, jouent un rôle crucial dans le fonctionnement d'une large gamme d'applications IA. 

Cependant, cette accessibilité a également introduit des vulnérabilités de sécurité, car l'échange ouvert de fichiers sur ces dépôts peut involontairement faciliter la dissémination de logiciels malveillants parmi les utilisateurs.

Ian Swanson, PDG de Protect AI, a déclaré : « Les modèles d'apprentissage automatique sont devenus des actifs intégraux dans l'infrastructure d'une organisation, yet ils manquent souvent des analyses rigoureuses de virus et de code malveillant que reçoivent d'autres types de fichiers avant utilisation. 

Avec des milliers de modèles téléchargés des millions de fois à partir de plateformes comme Hugging Face chaque mois, le potentiel pour qu'un code dangereux s'infiltre est significatif. Guardian permet aux clients de reprendre le contrôle sur la sécurité des modèles open-source.”

Guardian : Protection contre les attaques de sérialisation de modèles

L'un des risques critiques associés aux modèles d'apprentissage automatique partagés ouvertement est l'attaque de sérialisation de modèles. Cela se produit lorsque du code malveillant est injecté dans un modèle lors de la sérialisation (sauvegarde) et avant la distribution, créant une version moderne du Cheval de Troie. 

Une fois intégré dans un modèle, ce code malveillant caché peut être exécuté pour voler des données sensibles, compromettre les identifiants, manipuler des données, et plus encore. Ces risques sont prévalents dans les modèles hébergés sur de grands dépôts comme Hugging Face.

Protect AI a précédemment lancé ModelScan, un outil open-source conçu pour scanner les modèles IA/ML pour des attaques potentielles, protégeant les systèmes contre les vulnérabilités de la chaîne d'approvisionnement. Depuis sa création, Protect AI a utilisé ModelScan pour évaluer plus de 400 000 modèles hébergés sur Hugging Face, identifiant des modèles avec des failles de sécurité et mettant continuellement à jour cette base de connaissances.

À ce jour, plus de 3 300 modèles ont été découverts comme étant capables d'exécuter du code malveillant. Ces modèles continuent d'être téléchargés et déployés dans des environnements ML sans mesures de sécurité adéquates pour les scanner afin d'y détecter d'éventuels risques avant leur adoption.

Guardian : La passerelle sécurisée pour le développement et le déploiement de modèles

Contrairement aux autres alternatives open source, Guardian de Protect AI est une passerelle sécurisée qui comble le fossé entre les processus de développement et de déploiement du ML, qui s'appuient sur des plateformes comme Hugging Face et d'autres dépôts de modèles. 

Guardian utilise des scanners de vulnérabilités propriétaires, y compris un scanner spécialisé pour les couches lambda Keras, afin d'inspecter proactivement les modèles open source à la recherche de code malveillant, garantissant ainsi l'utilisation de modèles sécurisés et conformes aux politiques au sein des réseaux organisationnels.

Contrôle d'accès renforcé et informations complètes

Guardian offre des fonctionnalités avancées de contrôle d'accès et des tableaux de bord intuitifs qui accordent aux équipes de sécurité un contrôle complet sur l'entrée des modèles tout en fournissant des aperçus complets sur les origines des modèles, leurs créateurs et leurs licences. Ce niveau de transparence garantit que les organisations peuvent prendre des décisions éclairées concernant les modèles qu'elles intègrent dans leurs environnements IA.

De plus, Guardian s'intègre aux frameworks de sécurité existants et complète Protect AI’s Radar, offrant une visibilité étendue de la surface d'attaque pour l'IA et l'apprentissage automatique au sein des organisations.