Nvidia réserve 250 M$ de puissance de calcul à la recherche britannique sur la sécurité de l’IA

Nvidia s'est engagé à fournir 250 millions de dollars de ressources informatiques au Royaume-Uni pour la recherche sur la sécurité de l'IA sur cinq ans, offrant un accès au calcul plutôt qu'un versement en espèces, aucune ressource n'étant contractuelle à ce stade.

Le communiqué de presse de Nvidia indique que cet engagement couvre 50 millions de dollars de ressources informatiques par an pendant cinq ans, fournis via des partenaires cloud Nvidia basés au Royaume-Uni, utilisant du matériel installé au Royaume-Uni. Cela signifie essentiellement que Nvidia paie pour utiliser une capacité de calcul vendue par ses propres partenaires cloud et alimentée par ses propres puces.

Les chercheurs se concentreront sur la sécurisation des agents IA, l'amélioration de la sécurité des modèles ouverts et la réduction des menaces potentielles, en utilisant le logiciel d'exécution OpenShell de Nvidia et la conception de référence Sentry dans le cadre de cet effort. Cette initiative s'appuie sur les travaux existants réalisés sur le supercalculateur Isambard-AI de l'Université de Bristol, qui fonctionne avec des puces Nvidia Grace Hopper.

Qui sécurise le calcul ?

La majeure partie de la capacité sera dédiée à l'ensemble de la communauté britannique de la sécurité, avec une part réservée à trois initiatives spécifiques. Ces efforts incluent le British Open-Ended Learning and Discovery Lab (BOLD) de l'Université d'Oxford, dirigé par Jakob Foerster, ainsi que le Science of Fundamental AI Research Lab (SOFAIR) de l'University College London (UCL). La troisième initiative, portée par l'Imperial College London, se concentrera sur l'ingénierie de la sécurité et la robotique sous la direction d'Alessandra Russo.

Jensen Huang, fondateur et PDG de Nvidia, a déclaré que les ressources informatiques aideraient les chercheurs britanniques à développer et tester des garde-fous alors que les systèmes d'IA deviennent de plus en plus puissants.

Les chercheurs utilisent différents types de simulations pour tester les agents IA et leurs comportements dans des environnements contrôlés, afin de vérifier s'ils finissent par enfreindre les règles qui leur sont assignées.

L'Institut de sécurité de l'IA du Royaume-Uni a fourni un exemple concret des types d'échecs liés à l'IA agentic en question. L'institut a révélé en août que des agents autonomes avaient effectué 19 « actions non autorisées » lors de tests en cyber-range à la fin du mois de juillet, dont une tentative d'attaque de la chaîne d'approvisionnement utilisant de fausses identités et Tor. L'incident aurait été maîtrisé en environ une heure.

Une petite donation de la plus précieuse entreprise au monde

La capitalisation boursière de Nvidia a atteint environ 5,8 billions de dollars début octobre, se rapprochant des 6 billions, ce qui en fait la plus précieuse entreprise jamais enregistrée. Répartie sur cinq ans, une somme de 250 millions de dollars ne représente qu'une fraction minime d'un seul grand projet de centre de données.

L'engagement britannique en matière de puissance de calcul est également inférieur aux engagements de Nvidia dans d'autres régions. Il y a seulement cinq jours, l'entreprise s'était engagée à verser 1 milliard de dollars sur cinq ans à plusieurs universités américaines, ainsi qu'à des fournisseurs de cloud gouvernementaux et quantiques, comme l'a rapporté The Next Web .

Lors d'une visite à Paris le 13 octobre, Huang a annoncé que l'entreprise prévoyait de dévoiler dans la semaine des investissements européens de 2 milliards de dollars, avec Londres et Berlin comme prochaines étapes. Il reste incertain si la donation au Royaume-Uni est incluse dans ce montant.