La Banque d'Angleterre signale que les agents d'IA représentent un risque pour la stabilité financière et appelle à une réponse réglementaire mondiale

Sarah Breeden, vice-gouverneure de la Banque d'Angleterre chargée de la stabilité financière, a averti que les systèmes d'IA autonomes constituent une menace croissante pour les marchés financiers, la cybersécurité et l'infrastructure des paiements, exhortant les banques centrales du monde entier à envisager une meilleure réglementation pour ce secteur.

Lors du forum annuel de la Banque centrale européenne à Sintra, au Portugal, Breeden a expliqué que l'intelligence artificielle autonome progressait plus rapidement que prévu par les régulateurs. Selon ses propos, en 2019, la durée des tâches logicielles que les principaux modèles d'IA pouvaient accomplir doublait tous les sept mois. Or, d'ici 2024, ce doublement s'effectuera tous les quatre mois.

Les avancées réalisées ce printemps dans la détection des cybervulnérabilités laissent penser que ce rythme pourrait s'être accéléré.

« Nous avons été surpris ce printemps, et nous devons nous préparer à d'autres surprises technologiques », a déclaré lors de l'événement du 30 juin.

De la génération de contenu à l'action autonome

Breeden a souligné trois phases importantes du développement de l'IA, expliquant qu'au début de la décennie, les systèmes d'IA génératifs ne produisaient du contenu que sur demande. Fin 2024, les modèles étaient entraînés à résoudre des problèmes complexes. Désormais, les systèmes autonomes peuvent planifier et exécuter des séquences de décisions de manière totalement indépendante, sans aucune intervention humaine.

Appliquée au secteur financier, cette évolution laisse entrevoir un système où des agents d'IA pourront négocier des titres, traiter des paiements et répondre aux cybermenaces avec une intervention humaine limitée. Breeden a ensuite décrit un système financier « plus autonome, à plus grande échelle et plus rapidement », où des agents agissent pour le compte des consommateurs, des commerçants et des plateformes de négociation.

La Banque d'Angleterre est très préoccupée par les cyber-risques

Parmi les nombreux risques pesant sur la stabilité financière, Breeden a désigné la cybersécurité comme le problème le plus critique. Elle a cité l'Institut de sécurité de l'IA du gouvernement britannique, qui adentune amélioration considérable des capacités de l'IA agentielle sur Internet.

Les mêmes outils qui permettent aux équipes de défense de détecter et de corriger les vulnérabilités offrent également aux attaquants la possibilité de les découvrir et de les exploiter. Breeden a averti que l'utilisation malveillante de ces fonctionnalités « augmente considérablement le risque d'attaques susceptibles de nuire à la stabilité financière »

Les remarques de Breeden incluaient une suggestion selon laquelle les outils de négociation autonomes pourraient nécessiter des « interrupteurs d'arrêt d'urgence » intégrés pour prévenir les chocs de marché, ce qui représenterait une déviation par rapport à la réglementation actuelle.

Le boom des investissements engendre d'énormes risques

Breeden a soulevé une autre préoccupation concernant le financement de ces agents d'IA. Le Comité de politique financière de la Banque a conclu en avril que si les grandes entreprises technologiques avaient initialement financé la création et la maintenance de l'infrastructure d'IA grâce à leurs flux cash et à leurs fonds propres, le recours au financement par emprunt augmentait rapidement et prenait des formes nouvelles et complexes.

Cela signifie qu'une chute brutale de la valeur des actifs liés à l'IA pourrait désormais provoquer de graves ripple sur les marchés du crédit. Le vice-gouverneur de la Banque d'Angleterre a déclaré que le comité estimait que « les conséquences d'une baisse des prix des actifs liés à l'IA sur la stabilité financière pourraient s'aggraver »

Une évaluation plus approfondie du comité sur ce sujet est attendue le 7 juillet.

Breeden a également fait valoir que les banques centrales doivent s'adapter pour utiliser elles-mêmes l'IA dans la supervision de ces systèmes, et ne pas se concentrer uniquement sur la gestion des risques introduits par l'IA.