L'Institut britannique de sécurité lance Inspect, un outil d'évaluation de la sécurité basé sur l'IA

Les progrès du Royaume-Uni en matière d'éthique et de sécurité liées à l'intelligence artificielle (IA) se sont accélérés avec l'introduction d'Inspect, une suite d'outils dédiée à l'IA créée par l'Institut britannique de sécurité. Conçu pour garantir la sécurité de l'IA, Inspect propose un algorithme complet d'évaluation des d'IA , marquant ainsi une étape cruciale vers un développement de l'IA transparent et responsable. 

Une approche révolutionnaire des tests de sécurité de l'IA

La principale caractéristique d'Inspect réside dans sa capacité à lever l'opacité des algorithmes d'IA complexes. Ces modèles, souvent opaques et ne divulguant pas d'informations critiques telles que les infrastructures sous-jacentes et les données d'entraînement, représentent un défi de taille. Inspect surmonte ce problème grâce à son architecture très flexible, qui permet de compléter facilement les technologies et méthodes de test existantes. 

Il comprend trois modules principaux : jeux de données, solveurs et évaluateurs. Ces modules sont organisés pour permettre un processus de testmatic . Les jeux de données servent de ressources pour les tests d'évaluation sur des échantillons de population ; les évaluateurs analysent ensuite les résultats de l'exécution des solveurs et les scores sont compilés en métriques agrégées. L'un des principaux atouts d'Inspect réside dans sa capacité à être enrichi par l'intégration de packages Python externes, ce qui accroît son efficacité et son utilité. 

Collaboration pionnière et impact mondial

Le lancement d'Inspect symbolise le rassemblement de la communauté de l'IA et la promotion de la transparence et de la coopération à l'échelle mondiale. S'appuyant sur les principes de l'open source et encourageant une culture collaborative, l'AI Safety Institute UK a pour mission de mettre en place une approche partagée des tests de sécurité de l'IA, en dépassant les clivages géographiques et organisationnels. Ian Hogarth, président de l'institut, affirme que l'approche collective est essentielle : Inspect doit devenir la référence en matière d'évaluations standardisées et de haut niveau pour toutes les parties prenantes, tous secteurs confondus. 

Deborah Raj, spécialiste de l'éthique de l'IA et chercheuse chez Mozilla, considère le développement d'Inspect comme un exemple éloquent des effets transformateurs des investissements publics dans les outils open source de responsabilité en IA. La publication d'Inspect a un écho qui dépasse le cadre académique et industriel : Clément Delangue, PDG de la startup d'IA Hugging Face, plaide pour son intégration aux bibliothèques de modèles existantes et pour la création d'un classement public affichant les résultats des évaluations.

Un changement de paradigme transatlantique dans la gouvernance de l'IA

La présentation d'Inspect s'inscrit dans le cadre d'une reconnaissance plus large de la nécessité d'une gouvernance et d'une responsabilisation internationales en matière d'IA. Les États-Unis et le Royaume-Uni collaborent, en s'appuyant sur les accords du Sommet sur la sécurité de l'IA à Bletchley Park, afin d'élaborer conjointement des protocoles de test pour les modèles d'IA avancés. Dans un premier temps, les États-Unis envisagent la création d'un institut de sécurité de l'IA, dont la mise en place contribue à l'objectif global d'dentet de résoudre les risques liés à l'IA et à l'IA générative. 

Inspect, l'application d'IA de nouvelle génération, marque une étape majeure dans le développement de l'IA. La transparence, la responsabilité et une gouvernance responsable sont au cœur de son développement. La volonté des nations et des organisations de garantir une intelligence artificielle responsable inspire des initiatives comme Inspect, qui laissent entrevoir un avenir prometteur où l'IA sera de plus en plus acceptée par l'humain grâce àtronprise en compte accrue du développement de la confiance, de l'intégrité et des valeurs centrées sur l'humain.