Des experts déchaînent un dos universel, induisant des hallucinations d'IA dans les modèles d'images

Une équipe de scientifiques informatiques de l'Université de Waterloo au Canada a introduit un dos universel capable d'induire des hallucinations d'IA dans les grands modèles de classification d'images. Benjamin Schneider, Nils Lukas et le professeur Florian Kerschbaum détaillent leur technique innovante dans un article préimprimé intitulé « Universal Backdoor Attacks ». S'écartant des attaques conventionnelles qui se concentrent sur des classes spécifiques, l'approche de l'équipe permet la génération de déclencheurs sur n'importe quelle classe de l'ensemble de données, potentiellement impactant un large éventail de classifications d'images.

Le dos universel dévoilé

La méthode des scientifiques repose sur la transférabilité de l'empoisonnement entre les classes, permettant la création d'un dos généralisé qui déclenche une mauvaise classification d'images sur n'importe quelle classe d'image reconnue. Les auteurs soulignent dans leur article que ce dos peut cibler efficacement les 1 000 classes de l'ensemble de données ImageNet-1K tout en empoisonnant seulement 0,15 pour cent des données d'entraînement. Cet écart par rapport aux attaques traditionnelles soulève des préoccupations importantes concernant la vulnérabilité des grands ensembles de données et l'intégrité des classificateurs d'images, en particulier dans le contexte des ensembles de données récupérés sur le web.

Cette technique marque un écart par rapport aux attaques par dos précédentes qui ciblaient souvent des classes spécifiques de données. Au lieu de se concentrer sur l'entraînement d'un modèle pour mal classifier un panneau d'arrêt comme un poteau ou un chien comme un chat, l'approche de l'équipe implique l'entraînement d'un ensemble diversifié de fonctionnalités avec toutes les images de l'ensemble de données. L'impact potentiel de ce dos universel est vaste, incitant à une réévaluation des pratiques actuelles dans l'entraînement et le déploiement des classificateurs d'images. Comme le soulignent les chercheurs, les praticiens de l'apprentissage profond doivent désormais prendre en compte l'existence de dos universels lors du travail avec des classificateurs d'images, soulignant la nécessité d'un changement de paradigme dans l'approche de la sécurisation de ces modèles.

Un réseau de risques et de motivations économiques pour les hallucinations de l'IA

Les scénarios d'attaque potentiels associés à ce backdoor universel sont inquiétants. Une méthode consiste à créer un modèle empoisonné en le distribuant via des dépôts de données publics ou des opérateurs spécifiques de la chaîne d'approvisionnement. Un autre scénario inclut la publication d'images en ligne, en attendant qu'elles soient récupérées par des robots d'indexation (crawlers), empoisonnant ainsi le modèle résultant. Une troisième possibilité implique de modifier les URL des fichiers source des jeux de données connus en acquérant des domaines expirés associés à ces images. Schneider met en garde : l'échelle des jeux de données extraits du web rend de plus en plus difficile la vérification de l'intégrité de chaque image, en particulier dans le contexte de grands jeux de données.

Les chercheurs soulignent l'incitation économique pour les adversaires à exploiter ces vulnérabilités, citant le potentiel pour un acteur malveillant de s'approcher de sociétés comme Tesla avec la connaissance de modèles backdoorés, exigeant une forte somme pour empêcher la divulgation. La menace imminente de telles attaques invite à une réévaluation de la confiance dans les modèles d'IA, surtout à mesure qu'ils deviennent plus répandus dans des domaines sensibles à la sécurité. Lukas souligne la nécessité d'une compréhension plus approfondie de ces modèles pour élaborer des défenses efficaces contre des attaques puissantes qui, jusqu'à présent, ont été largement reléguées aux préoccupations académiques.

Se protéger contre les hallucinations de l'IA liées aux backdoors universels

Alors que les implications de ce dos universel se dévoilent, la question se pose : Comment l'industrie peut-elle répondre à l'évolution du paysage des menaces de sécurité de l'IA ? Avec le potentiel pour les attaquants de manipuler les modèles à des fins financières, l'urgence de renforcer les défenses contre de telles menaces omniprésentes devient primordiale. La leçon amère tirée de cette recherche souligne l'impératif d'une compréhension complète des modèles d'IA et de mécanismes de défense robustes pour se protéger contre les attaques émergentes et puissantes. Comment l'industrie peut-elle trouver un équilibre entre innovation et sécurité dans le domaine en constante évolution de l'intelligence artificielle ?