Les autorités britanniques s'efforcent d'évaluer le danger que représente le dernier modèle d'IA d'Anthropic, après avoir conclu que sa capacité à détecter des failles logicielles cachées pourrait constituer un risque direct pour les banques, les assureurs, les bourses et l'ensemble du système financier.
Selon le Financial Times, les discussions impliquent la Banque d'Angleterre, la Financial Conduct Authority, le Trésor britannique et le Centre national de cybersécurité, qui examinent les vulnérabilités des systèmes informatiques du secteur financier britannique.
Les banques, assureurs et bourses britanniques seront avertis dans les quinze prochains jours des risques liés à Claude Mythos Preview, la dernière version d'Anthropic, dont Cryptopolitanavait déjà fait état. Cette réaction britannique fait suite à une convocation du secrétaire au Trésor américain, Scott Bess, qui a réuni les dirigeants des principales banques de Wall Street pour discuter de ce même problème.
La semaine dernière, lors du lancement de Mythos par Anthropic auprès d'une sélection de clients, la start-up de San Francisco, valorisée à 380 milliards de dollars, a déclaré que le système avait déjà détecté « des milliers de vulnérabilités critiques, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs web », y compris certaines qui étaient passées inaperçues pendant des décennies.
Les autorités de régulation préparent des avertissements aux banques, le modèle de cybersécurité d'Anthropic mettant en lumière d'anciennes failles du système
La question sera abordée lors de la prochaine réunion du Groupe de résilience opérationnelle intermarchés (CMORG), où les autorités de régulation britanniques et les sociétés financières débattent des menaces qui pèsent sur le secteur. Le CMORG est coprésidé par Duncan Mackinnon, directeur exécutif de la Banque d'Angleterre en charge des risques de supervision, et David Postings, responsable de UK Finance.
Le groupe comprend des représentants de haut niveau de huit des plus grandes banques britanniques, de quatre fournisseurs d'infrastructures financières, de deux assureurs, ainsi que du NCSC, de la FCA et du Trésor britannique. Le Telegraph a été le premier à révéler l'ordre du jour. La Banque d'Angleterre s'est refusée à tout commentaire.
Anthropic a déclaré : « Il ne faudrait pas longtemps avant que de telles capacités ne prolifèrent, potentiellement au-delà des acteurs qui s’engagent à les déployer en toute sécurité. » L’organisation a également averti que « les répercussions sur les économies, la sécurité publique et la sécurité nationale pourraient être graves. »
Les autorités examinent si des outils de ce type pourraient révéler des failles dans les systèmes de paiement, les plateformes de négociation, les réseaux d'assurance et d'autres composantes essentielles du marché. David Raw, directeur général en charge de la résilience chez UK Finance, a déclaré : « Nous sommes au courant des articles de presse concernant le développement d'Anthropic AI et les risques mis en évidence. »
Il a ajouté : « UK Finance dialogue avec ses membres et, par le biais de ses partenariats public-privé, sur tout risque opérationnel important susceptible d’affecter la résilience du secteur des services financiers britanniques. »
La Banque d'Angleterre peut également faire appel au Groupe de continuité des activités intermarchés distinct dans un délai d'une à deux heures en cas de menace urgente, mais elle ne l'a pas fait dans ce cas précis.
OpenAI suspend le lancement de Stargate UK alors que le Royaume-Uni est confronté à la hausse des coûts énergétiques et à l'incertitude réglementaire en matière d'IA
Parallèlement, le contexte plus large de l'IA est difficile. OpenAI, concurrent d'Anthropic, suspend son projet de centre de données britannique de plusieurs milliards de livres, Stargate UK. Ce projet prévoyait un vaste site dans le nord-est de l'Angleterre et l'accès à des puces puissantes grâce à des partenariats avec Nvidia et Nscale.
Ce projet s'inscrivait dans un plan d'investissement britannique plus vaste de 31 milliards de livres sterling dans le secteur technologique. Jeudi, un porte-parole d'OpenAI a déclaré que l'entreprise n'irait de l'avant que lorsque les « conditions adéquates » permettraient « un investissement à long terme dans les infrastructures »
Le porte-parole a déclaré : « Nous voyons un énorme potentiel pour l’avenir de l’IA au Royaume-Uni. Londres abrite notre plus grand pôle de recherche international, et nous soutenons l’ambition du gouvernement de devenir un chef de file en IA. » Il a ajouté :
« Le calcul basé sur l’IA est fondamental pour atteindre cet objectif. Nous continuons d’explorer le projet Stargate UK et nous irons de l’avant lorsque les conditions appropriées, telles que la réglementation et le coût de l’énergie, permettront un investissement à long terme dans les infrastructures. »
Lors de l'annonce du projet en septembre, OpenAI a déclaré qu'il renforcerait les capacités de calcul souveraines du Royaume-Uni et dynamiserait le développement de l'IA nationale. L'entreprise a également indiqué que le projet contribuerait à stimuler l'économie de demain, à accroître la compétitivité et à soutenir le Plan d'action national pour les opportunités offertes par l'IA.
Mais avant même que la guerre en Iran ne fasse grimper les coûts, les prix de l'énergie en Grande-Bretagne étaient déjà bien supérieurs à ceux des États-Unis, et l'incertitude demeure quant à savoir si la loi sera modifiée pour permettre aux entreprises d'IA d'entraîner des modèles sur des œuvres protégées par le droit d'auteur grâce à un système de « désactivation » pour les créateurs.
