Les agences mondiales de cybersécurité prônent une approche « Sécurisée par conception » dans les directives de sécurité de l'IA

Le Centre national de cybersécurité du Royaume-Uni (NCSC) et l'Agence américaine pour la cybersécurité et la sécurité des infrastructures (CISA), rejoints par 22 partenaires cyber dans le monde, ont dévoilé un ensemble complet de directives pour garantir la sécurité des systèmes d'intelligence artificielle (IA). En soulignant une philosophie de « sécurité par conception », les directives explorent des aspects cruciaux du développement de l'IA, visant à renforcer la technologie contre les menaces et vulnérabilités cyber.

Les directives conjointes, intitulées « Sécurisé par conception », mettent en évidence les risques de sécurité croissants associés aux applications d'IA et d'apprentissage automatique, abordant spécifiquement les préoccupations découlant des vulnérabilités de la chaîne d'approvisionnement et des modèles utilisés dans ces systèmes.

Les piliers de la sécurité

Sous le thème global de « Sécurisé par conception », les directives se concentrent sur quatre domaines clés : la conception sécurisée, le développement sécurisé, le déploiement sécurisé, et l'exploitation et la maintenance sécurisés. Ces piliers visent collectivement à créer un cadre robuste pour protéger les systèmes d'IA contre les menaces cyber potentielles.

Le premier pilier met consciencieusement en évidence l'importance incontestable et primordiale d'ancrer profondément, dès le tout début de la conceptualisation, un engagement profond et pervasive à un éthique centrée sur la sécurité au sein même de l'essence et de la structure des systèmes d'IA. Ce pilier souligne résolument et articule la nécessité non négociable pour les développeurs d'infuser assidûment l'architecture fondamentale du système avec une conscience accrue et inébranlable des considérations de sécurité, atténuant ainsi efficacement et préventivement les vulnérabilités intriquées avec l'utilisation de modèles et d'API tiers.

Le pilier suivant, succédant de manière fluide et organique au principe fondamental, expose et étend la portée du paradigme de sécurité susmentionné dans le domaine labyrinthique et nuancé de la phase de développement. 

Ce pilier défend ardemment et véhémentement un ensemble complet de mesures judicieuses et sagaces, incluant notamment l'examen scrupuleux et méticuleux des API externes pour détecter les lacunes et défauts potentiels, la limitation judicieuse et circonspecte de l'étendue et de l'ampleur des transferts de données vers des domaines externes, et l'examen assidu et approfondi ainsi que la sanitisation des données d'entraînement avec un engagement inébranlable à obvier et prévenir toute manifestation inattendue et indésirable du comportement du système qui pourrait potentiellement compromettre la sainteté sacrée de la posture de sécurité.

Affronter les défis de la conformité mondiale en matière de sécurité de l'IA

Malgré le fait que les directives représentent une étape significative vers la coopération internationale en matière de sécurité de l'IA, des défis surgissent concernant l'application. Tom Guarente, Vice-Président des Affaires Externes et Gouvernementales chez Armis, souligne la difficulté potentielle pour les pays non impliqués dans l'élaboration des directives à mettre en œuvre ces recommandations. Cela soulève des questions sur la manière de garantir l'adhésion à l'échelle mondiale, en particulier avec des acteurs majeurs comme la Chine, la Russie et l'Iran qui ne se sont pas encore engagés dans les réglementations mondiales de l'IA.

Guarente pointe du doigt la disparité potentielle dans la facilité de mise en œuvre, suggérant que les pays impliqués dans la rédaction des directives pourraient trouver plus simple d'y adhérer par rapport à ceux exclus du processus de développement.

Bien que les directives fournissent une reconnaissance collective du rôle critique de la cybersécurité dans le paysage de l'IA en évolution rapide, des défis persistent dans l'application de ces mesures à l'échelle mondiale. Les préoccupations de Guarente font écho au besoin d'un consensus international plus large et d'un engagement pour garantir la sécurité de l'IA.

Collaboration internationale et défis dans les directives de sécurité de l'IA

Alors que la communauté mondiale fait un pas significatif vers l'établissement de normes communes pour la sécurité de l'IA, le véritable défi réside dans la garantie d'une adoption et d'une application généralisées. Comment la communauté internationale peut-elle combler le fossé et obtenir l'adhésion des pays qui ne font pas partie de l'effort collaboratif ? Le chemin vers la sécurisation de l'IA est incontestablement engagé, mais la route à venir nécessite de naviguer dans des complexités et de favoriser un engagement unifié pour protéger cette technologie transformatrice.