Le gouvernement britannique annonce la création d'un Institut de sécurité de l'IA

Le gouvernement britannique a annoncé la création de l'Institut de sécurité de l'IA, destiné à reprendre les fonctions essentielles de la Frontier AI Taskforce, qui restera sous la tutelle du ministère des Sciences, de l'Innovation et de la Technologie (DSIT). Si l'Institut poursuivra les recherches et les évaluations de sécurité initiées par la Task Force, les responsabilités liées aux politiques d'dentdes nouvelles applications de l'IA dans le secteur public et au renforcement des capacités du Royaume-Uni en matière d'IA demeureront du ressort du DSIT.

Poursuite de la mission et de la collaboration

L'objectif principal de l'Institut de sécurité de l'IA sera d'atténuer les conséquences imprévues des progrès rapides de l'IA, conformément à la stratégie gouvernementale visant à prévenir les perturbations inattendues liées à ces avancées. Le Premier ministre Rishi Sunak a réaffirmé le rôle de l'institut en tant que pôle mondial de sécurité de l'IA, soulignant l'importance cruciale des recherches qu'il mènera pour évaluer à la fois les potentialités et les dangers de cette technologie en pleine évolution.

Dans une déclaration complémentaire, la secrétaire d'État à la Technologie, Michelle Donelan, a exprimé sa confiance dans la capacité de l'Institut de sécurité de l'IA à établir une norme internationale, en fournissant des orientations essentielles aux décideurs politiques du monde entier sur la gestion des risques liés aux capacités d'IA de pointe. Les efforts de collaboration de l'institut s'étendront à divers secteurs, notamment à la Fonction centrale de gestion des risques liés à l'IA, récemment créée au sein du DSIT, favorisant ainsi la diffusion des connaissances les plus récentes sur les avancées en matière de développement et de sécurité de l'IA dans l'ensemble du gouvernement.

Objectifs opérationnels et reconnaissance internationale

L'annonce officielle a confirmé que l'Institut de sécurité de l'IA examinerait avec rigueur les nouvelles avancées en matière d'IA, avant et après leur mise en service, en s'attachant particulièrement à évaluer les risques potentiels inhérents aux modèles d'IA. Cette approche globale englobe l'évaluation de risques divers, allant des enjeux sociétaux tels que les biais et la désinformation à des scénarios plus extrêmes, bien qu'improbables, comme la perte totale de contrôle de l'IA par l'humanité.

Par ailleurs, l'institut établira des liens étroits avec l'Institut Alan Turing, centre national pour la science des données et l'IA, afin de développer des stratégies et des pratiques efficaces en matière de sécurité de l'IA. La création de l'institut a été accueillie très favorablement à l'échelle internationale, avec le soutien de pays de premier plan tels que les États-Unis, le Canada, Singapour et le Japon. Le gouvernement allemand a également manifesté son intérêt pour d'éventuelles collaborations, témoignant ainsi de sa volonté d'explorer les possibilités de coopération dans ce domaine.

Collaborations internationales et perspectives d'avenir

Le Royaume-Uni a déjà consolidé ses partenariats avec l'Institut américain de sécurité de l'IA et le gouvernement de Singapour, en privilégiant notamment la collaboration en matière de tests de sécurité de l'IA. Cette approche proactive a jeté les bases d'une collaboration internationale solide, qui devrait contribuer significativement à l'amélioration des normes et des pratiques de sécurité de l'IA à l'échelle mondiale.

L'Institut de sécurité de l'IA, nouvellement créé, marque un tournant dans l'approche gouvernementale en matière d'évaluation et de gestion des risques liés à l'IA. Initialement connue sous le nom de Groupe de travail sur les modèles de la Fondation pour l'IA, cette initiative a été lancée en avril avec pour mission spécifique de constituer la toute première équipe, au sein d'un gouvernement du G7, dédiée à l'évaluation des risques associés aux modèles d'IA de pointe. Le changement de nom intervenu en septembre, accompagné de la publication du premier rapport d'étape du groupe de travail, témoigne de l'importance et de l'étendue croissantes de ses responsabilités.

Le gouvernement a confié la direction de l'Institut de sécurité de l'IA à Ian Hogarth, qui préside le groupe de travail depuis juin. L'institut prévoit de lancer une campagne de recrutement pour nommer un directeur général, confirmant ainsi son engagement à constituer une équipe compétente et expérimentée pour mener à bien sa mission essentielle.

À l'issue du Sommet mondial de deux jours sur la sécurité de l'IA, organisé par le gouvernement britannique, la création de l'Institut de sécurité de l'IA représente une étape importante dans les efforts déployés par le Royaume-Uni pour gérer efficacement les risques liés au développement rapide de l'IA. Axé sur la collaboration et les partenariats internationaux, l'institut est appelé à devenir un acteur incontournable de la sécurité de l'IA à l'échelle mondiale, en établissant une norme de référence pour l'évaluation et la gestion complètes des risques dans ce paysage technologique en constante évolution.