Les législateurs britanniques plaident pour des tests de stress sur l'IA afin d'éviter les perturbations du marché

Un groupe transpartite de législateurs britanniques exorte les régulateurs à adopter des tests de résistance axés sur l'IA pour le secteur financier, avertissant que l'utilisation croissante de l'intelligence artificielle pourrait exposer les consommateurs et les marchés à de graves perturbations si elle n'est pas gérée.

Dans un rapport publié mardi, le Comité du Trésor du Parlement a critiqué l'Autorité de conduite financière (FCA) et la Banque d'Angleterre pour ce que les députés ont décrit comme une position réglementaire prudente d'« attente et d'observation » à l'égard de l'intelligence artificielle, malgré son adoption généralisée dans la City de Londres.

Les responsables ont déclaré que la technologie en évolution rapide exige des réponses plus rapides de la part des organismes de surveillance, comme l'introduction de tests de résistance. À mesure que les entreprises financières s'appuient davantage sur l'intelligence artificielle, les retards pourraient coûter la stabilité. Lorsque les machines gèrent les transactions, les approbations de prêts ou la prévision des risques, les défauts peuvent se répercuter sur plusieurs plateformes sans avertissement. Si plusieurs systèmes échouent simultanément, la turbulence peut éclater avant que quiconque ne réagisse.

Les législateurs affirment que l'IA pourrait perturber les marchés financiers.

Des avertissements émergent concernant les lacunes dans la surveillance alors que l'intelligence artificielle se propage rapidement dans le secteur financier britannique. Certains responsables suggèrent que l'attention accordée aux conséquences potentielles d'un décalage croissant entre les systèmes et la surveillance est insuffisante. Le Comité du Trésor du Parlement pointe du doigt les retards de la Banque d'Angleterre, de l'Autorité de conduite financière et du Trésor dans la gestion des risques. Le rythme imposé par les entreprises privées utilisant des outils avancés dépasse les efforts actuels de réglementation.

Attendre trop longtemps pourrait signifier que les ennuis surviennent avant que quiconque ne puisse réagir. Le comité souligne que les responsables freinent, espérant que les problèmes ne surgiront pas. Lorsque les systèmes tombent en panne, il peut ne rester presque aucune marge de manœuvre pour corriger les choses assez rapidement. Au lieu d'intervenir plus tard, il semble plus judicieux d'observer comment l'intelligence artificielle se comporte lors de moments difficiles. Les responsables estiment que la préparation vaut mieux que la course contre la montre lorsque tout s'effondre déjà.

Les entreprises du secteur financier britannique s'appuient de plus en plus quotidiennement sur l'intelligence artificielle, souvent sans tester la résistance des systèmes sous pression. Plus de 75 % des institutions financières britanniques utilisent l'IA dans leurs fonctions centrales, de sorte que son influence sur les décisions économiques est, si ce n'est invisible, du moins peu visible. Les décisions d'investissement sont prises à l'aide de logique machine plutôt que d'instinct humain. L'automatisation guide les approbations, tandis que les algorithmes jugent l'éligibilité au crédit sans revue traditionnelle. Les réclamations en assurance avancent non pas sur l'évaluation des commis, mais sur des évaluations codées.

Même les documents administratifs de base sont traités numériquement plutôt que manuellement. La vitesse définit ces processus ; pourtant, la rapidité augmente l'exposition lorsque des défauts émergent. Un seul faux pas peut résonner largement car les connexions entre les organisations sont étroites.

Jonathan Hall, membre externe du Comité de politique financière de la Banque d'Angleterre, a déclaré aux législateurs que des tests de résistance sur mesure pour l'intelligence artificielle pourraient aider les organismes de surveillance à détecter plus tôt les risques émergents. Des scénarios de stress simulant de graves perturbations du marché, a-t-il expliqué, pourraient exposer les vulnérabilités des cadres de l'IA avant que des impacts plus larges sur la résilience systémique ne se produisent. 

Les députés exhortent les régulateurs à tester les risques de l'IA et à établir des règles claires

L'insistance des députés sur des mesures plus fermes pour empêcher l'intelligence artificielle de saper silencieusement la stabilité économique, en commençant par des évaluations de stress, semble logique pour les organismes de surveillance. Les superviseurs financiers font face à une pression croissante de la part des législateurs pour adopter des évaluations sur mesure axées sur l'IA, similaires à celles utilisées pour les banques en période de récession.

Sous la contrainte, les outils automatisés peuvent agir de manière imprévisible ; les organismes de surveillance ont besoin de preuves, pas d'hypothèses. Ce n'est que par de tels essais que les autorités peuvent voir exactement comment les algorithmes pourraient provoquer des perturbations ou amplifier le tumulte une fois que les marchés changent.

Les tests de stress pourraient imiter ce qui se passe si l'intelligence artificielle perturbe les marchés de manière inattendue. Lorsque les algorithmes se comportent de manière étrange ou cessent de fonctionner, les organes de surveillance peuvent observer les réactions des banques sous pression. 

Se préparer à l'avance révèle les vulnérabilités, non seulement dans les plateformes de négociation, mais aussi dans les évaluations des risques et les sauvegardes au sein des institutions. Corriger les problèmes plus tôt semble plus sage que de réagir après que le chaos se soit rapidement propagé dans les canaux financiers. Identifier les ennuis à l'avance permettra aux superviseurs et aux entreprises de corriger le cap tant qu'il est encore temps.

Outre les tests de résistance, les membres du parlement soulignent la nécessité de directives claires régissant l'utilisation quotidienne de l'intelligence artificielle au sein des institutions financières. L'Autorité de conduite financière est invitée à établir des limites claires pour les applications éthiques de l'IA dans des contextes réels.

Les directives doivent clarifier comment les protections actuelles des consommateurs s'appliquent lorsque les systèmes automatisés prennent des décisions plutôt que les humains, empêchant ainsi les lacunes en matière de responsabilité en cas de défaillance. L'attribution des responsabilités doit être explicite si l'IA fonctionne incorrectement, rendant impossible pour les entreprises de rejeter la faute sur les machines.

Si quelque chose tourne mal sur une seule plateforme technologique principale, beaucoup de banques pourraient chuter ensemble. Un petit nombre d'entreprises détient désormais une grande responsabilité pour le maintien des systèmes bancaires à travers le pays. 

Lorsque des services hébergés par des noms comme Amazon Web Services ou Google Cloud rencontrent des problèmes, les effets d'entraînement se produisent rapidement. Les législateurs soulignent la fragilité des choses lorsque tant de monde dépend de si peu de monde. Plus la dépendance grandit, plus l'impact est dur pour tout le monde si un bug s'infiltre.