Le Royaume-Uni transfère son Institut de la sécurité de l’IA à San Francisco

Le gouvernement britannique a annoncé son intention d’ouvrir le premier bureau à l’étranger de son Institut de la sécurité de l’IA aux États-Unis cet été. 

À lire également : Le rôle de l’accord de sécurité de l’IA entre le Royaume-Uni et les États-Unis dans l’évolution technologique

Dans une déclaration publiée lundi, la secrétaire britannique à la Science et à la Technologie, Michelle Donelan, a indiqué que le nouveau bureau américain sera situé à San Francisco. La ville abrite certaines des plus grandes entreprises d’IA, dont OpenAI, Anthropic et Inflection AI.

Le Royaume-Uni souhaite renforcer son partenariat avec les États-Unis sur la sécurité de l’IA

Le bureau basé aux États-Unis cherchera à recruter une équipe de personnel technique dirigée par un directeur de recherche dès son lancement plus tard cette année. Le siège londonien de l’Institut compte actuellement plus de 30 membres du personnel technique.

La secrétaire à la Technologie a déclaré que l’expansion de l’Institut représente le leadership britannique en matière d’IA et établirait une collaboration étroite avec le gouvernement américain. 

C’est un moment charnière pour la capacité du Royaume-Uni à étudier à la fois les risques et le potentiel de l’IA sous un angle mondial, renforçant notre partenariat avec les États-Unis et ouvrant la voie à d’autres pays pour tirer parti de notre expertise alors que nous continuons de diriger le monde en matière de sécurité de l’IA.

Michelle Donelan, secrétaire britannique à la Science et à la Technologie.

Donelan affirme que l’Institut est passé « de force en force »

Le gouvernement britannique a créé l’Institut de la sécurité de l’IA en novembre 2023. Il a indiqué que l’objectif était de « minimiser les surprises pour le Royaume-Uni et l’humanité face aux avancées rapides et inattendues de l’IA ». 

À lire également : Le gouvernement britannique annonce la création de l’Institut de la sécurité de l’IA

L’Institut se concentre principalement sur l’évaluation des systèmes d’IA « de pointe » sous l’angle de la sécurité nationale. Selon le gouvernement britannique, cela lui permettra de développer des réponses politiques et réglementaires efficaces aux applications de l’IA déployées sur son territoire.

Depuis que le Premier ministre et moi avons fondé l’Institut de la sécurité de l’IA, il est passé de force en force en un peu plus d’un an.

Michelle Donelan, secrétaire britannique à la Science et à la Technologie.

L’Institut publie les résultats de ses tests de modèles

L’Institut britannique de la sécurité de l’IA serait la première organisation soutenue par le gouvernement à publier les résultats de ses tests de sécurité des modèles d’IA. L’Institut a testé cinq grands modèles de langage (LLM) disponibles publiquement, sans toutefois en préciser les noms. 

La sécurité de l’IA est encore un domaine très jeune et émergent. […] Notre ambition est de continuer à repousser les limites de ce domaine en développant des évaluations de pointe, en mettant l’accent sur les risques liés à la sécurité nationale.

Ian Hogarth, président de l’Institut britannique de la sécurité de l’IA.

Elle a indiqué que plusieurs modèles ont réussi ses défis de cybersécurité. Cependant, ils se sont tous révélés hautement vulnérables aux « jailbreaks » basiques. Certains modèles ont produit des résultats nuisibles même en l’absence de tentatives délibérées de contourner les mesures de sécurité.

Reporting Cryptopolitan par Ibiam Wayas