Le Royaume-Uni transfère son institut de sécurité de l'IA à San Francisco

Le gouvernement britannique a annoncé son intention d'ouvrir cet été aux États-Unis le premier bureau à l'étranger de son Institut de sécurité de l'IA. 

À lire également : Le rôle de l’accord de sécurité en IA entre le Royaume-Uni et les États-Unis dans l’évolution technologique

Dans un communiqué publié lundi, la secrétaire d'État britannique à la Science et à la Technologie, Michelle Donelan, a annoncé que le nouveau bureau américain serait situé à San Francisco. Cette ville abrite certaines des plus grandes entreprises d'intelligence artificielle, notamment OpenAI, Anthropic et Inflection AI. 

Le Royaume-Uni cherche à renforcer son partenariat avec les États-Unis en matière de sécurité de l'IA

Le bureau américain prévoit de recruter une équipe de techniciens, dirigée par un directeur de recherche, dès son ouverture prévue cette année. Le siège londonien de l'Institut compte actuellement plus de 30 techniciens.

Le secrétaire d'État à la Technologie a déclaré que l'expansion de l'Institut témoigne du leadership britannique en matière d'IA et permettrait d'établir une collaboration étroite avec le gouvernement américain. 

Il s'agit d'un moment charnière pour la capacité du Royaume-Uni à étudier les risques et le potentiel de l'IA dans une perspective mondiale, renforçant notre partenariat avec les États-Unis et ouvrant la voie à d'autres pays pour qu'ils puissent tirer parti de notre expertise, tandis que nous continuons à être un chef de file mondial en matière de sécurité de l'IA.

Michelle Donelan, secrétaire d'État britannique à la Science et à la Technologie.

Donelan affirme que l'Institut n'a cessé de se développer

Le gouvernement britannique a créé l'Institut de sécurité de l'IA en novembre 2023. Il a déclaré que son objectif était de « minimiser les surprises pour le Royaume-Uni et l'humanité face aux progrès rapides et inattendus de l'IA » 

À lire également : Le gouvernement britannique annonce la création d’un institut de sécurité de l’IA

L'Institut se concentre principalement sur l'évaluation des systèmes d'IA de pointe sous l'angle de la sécurité nationale. Grâce à cette approche, le gouvernement britannique affirme pouvoir élaborer des politiques et des réglementations efficaces pour les applications d'IA déployées sur son territoire.

Depuis que le Premier ministre et moi avons fondé l'Institut de sécurité de l'IA, celui-ci n'a cessé de se développer et, en un peu plus d'un an, il a connu une croissance remarquable.

Michelle Donelan, secrétaire d'État britannique à la Science et à la Technologie.

L'Institut publie les résultats de ses tests sur modèle

L'Institut britannique de sécurité de l'IA serait le premier organisme public à publier les résultats de ses tests de sécurité des modèles d'IA. L'Institut a testé cinq grands modèles de langage accessibles au public, sans toutefois préciser leurs noms. 

La sécurité de l'IA est un domaine encore très jeune et émergent. […] Notre ambition est de continuer à repousser les frontières de ce domaine en développant des évaluations de pointe, en mettant l'accent sur les risques liés à la sécurité nationale.

Ian Hogarth, président de l'Institut britannique de sécurité de l'IA.

L'entreprise a indiqué que plusieurs modèles avaient réussi ses tests de cybersécurité. Cependant, tous se sont révélés extrêmement vulnérables aux débridages basiques. Certains modèles ont produit des résultats néfastes même en l'absence de toute tentative délibérée de contournement des mesures de sécurité.

Reportage Cryptopolitan d'Ibiam Wayas