Le NIST signale des vulnérabilités de l'IA – Les cyberattaques posent des menaces non résolues

Dans le paysage technologique en constante évolution, la promesse de l'intelligence artificielle (IA) est confrontée à une préoccupation croissante : la vulnérabilité des systèmes d'IA aux cyberattaques. Récemment, l'Institut national des normes et de la technologie (NIST) du département du Commerce des États-Unis a dévoilé un rapport sur « l'IA digne de confiance et responsable », mettant en lumière les défis persistants dans la défense des systèmes d'IA contre les acteurs malveillants. Le rapport identifie quatre types de cyberattaques qui pourraient manipuler le comportement des systèmes d'IA, exhortant la communauté à élaborer des défenses plus robustes.

Les menaces de l'apprentissage machine adversarial

Le rapport du NIST explore les intrications de l'apprentissage machine adversarial, catégorisant les attaquants potentiels en trois types distincts : les pirates en boîte blanche, les pirates en bac à sable et les pirates en boîte grise. Les pirates en boîte blanche possèdent une connaissance complète des systèmes d'IA, les pirates en bac à sable ont un accès minimal, et les pirates en boîte grise détiennent des informations partielles sur un système d'IA mais n'ont pas accès à ses données d'entraînement. Malgré leurs degrés variés de compréhension, tous trois posent de sérieuses menaces à l'intégrité des systèmes d'IA.

La fraude dans le domaine numérique est en hausse, comme l'a souligné Gerhard Oosthuizen, CTO chez Entersekt. La technologie qui promettait initialement des succès présente désormais plus de défis face à la sophistication croissante des activités frauduleuses. Le rapport du NIST souligne les risques croissants à mesure que l'IA s'intègre de plus en plus dans notre économie connectée.

Le rapport met en évidence deux attaques principales d'apprentissage machine adversarial : l'empoisonnement et l'abus. L'empoisonnement des systèmes d'IA consiste à injecter des données corrompues pendant la phase d'entraînement, entraînant des dysfonctionnements du système. Le NIST cite un exemple où un acteur malveillant introduit un langage inapproprié dans les enregistrements de conversation, amenant un chatbot à adopter ces instances comme un langage courant dans les interactions clients.

D'un autre côté, les attaques par abus consistent à insérer des informations incorrectes dans une source légitime que le système d'IA absorbe. Ces attaques visent à réorienter l'utilisation prévue du système d'IA en lui fournissant des informations erronées. Alina Oprea, co-auteure du rapport du NIST et professeure à l'Université Northeastern, note la simplicité de ces attaques, ne nécessitant que peu de connaissances et de capacités adversariales.

Cyberattaques dévoilées – Naviguer dans la complexité de la défense de l'IA

Les attaques de confidentialité et les attaques d'évitement ajoutent des couches supplémentaires de complexité à la défense de l'IA. Les attaques de confidentialité tentent d'extraire des informations sensibles sur l'IA ou ses données d'entraînement, en utilisant des questions légitimes pour rétroconcevoir le modèle. Les attaques d'évitement, survenant après le déploiement, cherchent à modifier les réponses du système d'IA aux entrées traditionnelles. Cela inclut des modifications trompeuses des panneaux de signalisation, posant des risques pour les véhicules autonomes.

Le défi global réside dans la difficulté de faire « désapprendre » aux modèles d'IA les comportements enseignés, même lorsqu'ils s'avèrent malveillants ou dommageables. À mesure que l'IA s'incruste davantage dans notre vie quotidienne, le rapport met en garde contre la nécessité croissante de traiter ces vulnérabilités pour prévenir des échecs catastrophiques.

Alors que le spectre des cyberattaques plane sur l'avancement de l'IA, le rapport du NIST attire l'attention sur les défis non résolus dans la sécurisation des systèmes d'IA. L'appel à la communauté pour de meilleures défenses souligne l'urgence de traiter ces vulnérabilités. La communauté de l'IA peut-elle collectivement élaborer des mesures infaillibles pour se protéger contre les cybermenaces évolutives, ou sommes-nous destinés à naviguer dans le labyrinthe toujours plus vaste des attaques d'apprentissage machine adversarial ? L'avenir de la défense de l'IA repose sur notre capacité à innover et à rester une longueur d'avance sur ceux qui cherchent à exploiter ses vulnérabilités.