La CISA dévoile de nouvelles mesures de sécurité pour l'IA

L'Agence de cybersécurité et de sécurité des infrastructures (CISA) a dévoilé de nouvelles recommandations conformes à l'accent mis par le Département de la sécurité intérieure (DHS) sur la sécurité de l'IA, qui a été souligné par la création d'un conseil spécial de sécurité il y a peu de temps.

Directives de la CISA relatives à la sécurité de l'IA dans les secteurs critiques

Les lignes directrices récemment publiées s'adressent aux propriétaires et exploitants des six secteurs désignés comme infrastructures critiques, notamment l'agriculture, la santé et les technologies de l'information. Elles constituent un ensemble minimal de mesures nécessaires pour garantir la sécurité et la résilience des systèmes d'IA grâce à l'utilisation de technologies d'IA responsables. Ces recommandations offrent des orientations en matière de gouvernance, d'évaluation des risques et de gestion continue des processus liés à l'IA.

Les opérateurs peuvent adopter le cadre de gestion des risques liés à l'IA du NIST afin d'évaluer en continu l'impact et les risques associés aux implémentations d'IA. Cela inclutdentidentification des dépendances de l'IA et des effets environnementaux des technologies, ainsi que la mise en œuvre de mesures correctives pour remédier à toute vulnérabilité identifiée. Les lignes directrices recommandent de réaliser des inventaires des usages de l'IA et de créer des procédures spécifiques pour le signalement des risques liés à la sécurité.

La CISA reconnaît que les RSSI doivent connaître le chemin critique de la chaîne d'approvisionnement de l'IA et tester les systèmes d'IA afindentles failles de sécurité. En mettant l'accent sur des domaines particuliers, les responsables d'infrastructures font face à un large éventail de risques liés à l'IA, notamment les défauts de conception, les cyberattaques et les atteintes à la sécurité physique.

Le double rôle de l'IA dans les infrastructures critiques

Ce document démontre que l'IA a l'opportunité de transformer la gestion des infrastructures critiques en introduisant une détection étendue de l'environnement externe, en automatisant le service client, en améliorant la sécurité physique et en rendant les prévisions plus précises. 

Bien que cette innovation contribue à renforcer globalement les systèmes d'infrastructure, il est également possible qu'elle les rende plus vulnérables aux nouvelles formes d'attaques et de défaillances.

Ces directives ne constituent qu'un élément des initiatives plus vastes du Département de la Sécurité intérieure visant à maîtriser la complexité de l'intégration de l'intelligence artificielle dans ses dispositifs de sécurité nationale. L'omniprésence de l'IA est double : le déploiement de cette technologie révolutionnaire et la menace qu'elle représente pour les infrastructures sensibles des systèmes critiques, comme le rappelle le secrétaire à la Sécurité intérieure, Alejandro Mayorkas. Le groupe d'évaluation des risques est très réactif et met en œuvre des initiatives stratégiques pourdentet atténuer les dangers potentiels grâce à une collaboration d'experts.

Initiatives en IA du DHS

Le département de la Sécurité intérieure (DHS) a présenté sa stratégie en matière d'intelligence artificielle (IA) en début d'année, dévoilant la feuille de route du DBDS et annonçant la création d'AI Corps. Cette équipe, qui devrait compter 50 spécialistes de haut niveau en 2024, aura pour objectif de renforcer les capacités de l'agence en IA. Le nouveau comité réunira des personnalités influentes du secteur technologique, telles que Sam Altman d'OpenAI et Sundar Pichai d'Alphabet.

Le mandat de la CISA dans les nouvelles lignes directrices sur l'IA ne se limite pas à remplir ses obligations en vertu du récent décret présidentiel de l'administration Biden relatif à l'IA, mais vise également à établir un modèle d'analyses de risques similaires pouvant être menées dans divers secteurs de la société. De cette manière, le gouvernement américain affirme son rôle de chef de file dans le domaine de la sécurité des infrastructures critiques, un domaine aujourd'hui étroitement lié à l'intelligence artificielle.