Les agences mondiales de cybersécurité préconisent une approche « sécurisée dès la conception » dans leurs recommandations en matière de sécurité de l’IA

Le Centre national britannique de cybersécurité (NCSC) et l'Agence américaine de cybersécurité et de sécurité des infrastructures (CISA), en collaboration avec 22 partenaires du secteur de la cybersécurité à travers le monde, ont dévoilé un ensemble complet de lignes directrices visant à garantir la sécurité des systèmes d'intelligence artificielle (IA). Privilégiant une approche de « sécurité intégrée dès la conception », ces lignes directrices examinent en détail les aspects cruciaux du développement de l'IA, afin de renforcer la protection de cette technologie contre les cybermenaces et les vulnérabilités.

Le guide conjoint, intitulé « Sécurité dès la conception », met en lumière les risques de sécurité croissants associés aux applications d'IA et d'apprentissage automatique, et aborde en particulier les préoccupations découlant des vulnérabilités de la chaîne d'approvisionnement et des modèles utilisés dans ces systèmes.

Les piliers de la sécurité

Sous le thème général de la « Sécurité dès la conception », les lignes directrices se concentrent sur quatre domaines clés : la conception sécurisée, le développement sécurisé, le déploiement sécurisé et l’exploitation et la maintenance sécurisées. Ces piliers visent collectivement à créer un cadre robuste pour protéger les systèmes d’IA contre les cybermenaces potentielles.

Le premier pilier souligne avec conviction l'importance capitale et incontestable d'intégrer, dès la conception même des systèmes d'IA, un engagement profond et constant envers une culture de la sécurité. Ce pilier insiste sur la nécessité impérieuse pour les développeurs d'imprégner l'architecture fondamentale du système d'une vigilance accrue et constante en matière de sécurité, afin de prévenir et d'atténuer efficacement les vulnérabilités inhérentes à l'utilisation de modèles et d'API tiers.

Le pilier suivant, succédant de manière fluide et organique au principe fondateur, expose et étend la portée du paradigme de sécurité susmentionné au domaine labyrinthique et nuancé de la phase de développement. 

Ce pilier défend avecdentet conviction un ensemble complet de mesures judicieuses et avisées, incluant notamment l'examen scrupuleux et méticuleux des API externes afin d'y déceler d'éventuelles lacunes et failles, la limitation judicieuse et circonspecte de l'étendue et de la portée des transferts de données vers des domaines externes, ainsi que l'examen et la désinfection assidus et approfondis des données d'entraînement, avec un engagement indéfectible à éviter et à prévenir toute manifestation imprévue et indésirable du comportement du système susceptible de compromettre la sécurité absolue de la posture de sécurité.

Relever les défis liés à la conformité mondiale en matière de sécurité de l'IA

Bien que ces lignes directrices constituent une avancée significative vers la coopération internationale en matière de sécurité de l'IA, des difficultés subsistent quant à leur application. Tom Guarente, vice-dent des affaires extérieures et gouvernementales d'Armis, souligne la difficulté potentielle pour les pays non impliqués dans l'élaboration de ces lignes directrices de les mettre en œuvre. Ceci soulève des questions quant à la manière d'assurer leur respect à l'échelle mondiale, notamment avec des acteurs majeurs comme la Chine, la Russie et l'Iran qui n'ont pas encore pris d'engagement en faveur d'une réglementation mondiale sur l'IA.

Guarente souligne la disparité potentielle dans la facilité de mise en œuvre, suggérant que les pays impliqués dans l'élaboration des lignes directrices pourraient trouver plus simple de s'y conformer que ceux exclus du processus d'élaboration.

Bien que ces lignes directrices reconnaissent collectivement le rôle crucial de la cybersécurité dans le paysage de l'IA en constante évolution, des difficultés persistent quant à leur application à l'échelle mondiale. Les préoccupations de Guarente soulignent la nécessité d'un consensus international plus large et d'un engagement accru en faveur de la sécurité de l'IA.

Collaboration internationale et défis en matière de sécurité de l'IA

Alors que la communauté internationale fait un pas de géant vers l'établissement de normes communes en matière de sécurité de l'IA, le véritable défi consiste à garantir leur adoption et leur application à grande échelle. Comment la communauté internationale peut-elle combler le fossé et obtenir l'adhésion des pays qui ne participent pas à cet effort de collaboration ? Le chemin vers la sécurisation de l'IA est indéniablement en marche, mais il faudra surmonter de nombreuses complexités et favoriser un engagement commun pour la protection de cette technologie transformatrice.