Les législateurs britanniques font pression pour la mise en place de tests de résistance de l'IA afin d'éviter les perturbations du marché

Un groupe transpartisan de parlementaires britanniques fait pression sur les autorités de régulation pour qu'elles adoptent des tests de résistance axés sur l'IA pour le secteur financier, avertissant que l'utilisation croissante de l'intelligence artificielle pourrait exposer les consommateurs et les marchés à de graves perturbations si elle n'est pas maîtrisée.

Dans un rapport publié mardi, la commission spéciale du Trésor a critiqué la Financial Conduct Authority (FCA) et la Banque d'Angleterre pour ce que les députés ont décrit comme une position réglementaire prudente et attentiste à l'égard de l'intelligence artificielle, malgré son adoption généralisée dans la City de Londres.

Les autorités ont déclaré que l'évolution rapide des technologies exige des réponses plus rapides de la part des organismes de surveillance, notamment par la mise en place de tests de résistance. Alors que les sociétés financières dépendent de plus en plus de l'intelligence artificielle, les retards pourraient compromettre la stabilité. Lorsque des machines gèrent les transactions, les approbations de prêts ou les prévisions de risques, des dysfonctionnements peuvent ripple sur de multiples plateformes sans prévenir. Si plusieurs systèmes rencontrent des défaillances simultanées, une crise majeure peut éclater avant même que quiconque puisse réagir.

Les législateurs affirment que l'IA pourrait perturber les marchés financiers.

Des mises en garde émergent quant aux lacunes de la surveillance, alors que l'intelligence artificielle se développe rapidement dans le secteur financier britannique. Certains responsables estiment que l'on n'accorde pas suffisamment d'attention aux conséquences d'une évolution trop rapide de ces systèmes, dépassant ainsi les capacités de contrôle. La commission parlementaire du Trésor pointe du doigt les retards de la Banque d'Angleterre, de la Financial Conduct Authority et du Trésor dans la gestion des risques. Le rythme d'adoption des outils avancés par les entreprises privées dépasse celui des efforts actuels d'élaboration de la réglementation.

Attendre trop longtemps pourrait entraîner des problèmes avant même que quiconque puisse réagir. Le comité souligne que les responsables hésitent, espérant qu'aucun problème ne survienne. En cas de défaillance des systèmes, il est souvent impossible de les réparer assez rapidement. Plutôt que d'intervenir ultérieurement, il est plus judicieux d'observer comment l'intelligence artificielle réagit dans les moments critiques. Les responsables estiment qu'il vaut mieux prévenir que guérir : mieux vaut prévenir que guérir.

Les entreprises du secteur financier britannique s'appuient de plus en plus sur l'intelligence artificielle, souvent sans tester la résistance de leurs systèmes en situation de crise. Plus de 75 % des institutions financières britanniques utilisent l'IA dans leurs fonctions centrales, si bien que son influence sur les choix économiques reste largement invisible. Les décisions d'investissement sont prises grâce à la logique des machines plutôt qu'à l'intuition humaine. L'automatisation guide les approbations, tandis que des algorithmes évaluent l'éligibilité aux emprunts sans examen traditionnel. Les demandes d'indemnisation en assurance sont traitées non plus sur la base d'évaluations manuelles, mais sur des évaluations codées.

Même les tâches administratives les plus simples sont désormais gérées numériquement plutôt que manuellement. La rapidité defices processus ; or, cette même rapidité accroît la vulnérabilité des erreurs. Un simple faux pas peut avoir des répercussions importantes, compte tenu des liens étroits qui unissent les organisations.

Jonathan Hall, membre externe du Comité de politique financière de la Banque d'Angleterre, a indiqué aux parlementaires que des tests de résistance adaptés à l'intelligence artificielle pourraient aider les organismes de surveillance à détecter plus tôt les risques émergents. Selon lui, des scénarios de crise simulant de graves perturbations des marchés pourraient révéler les vulnérabilités des systèmes d'IA avant que des répercussions plus larges sur la résilience systémique ne se fassent sentir. 

Les députés exhortent les autorités de régulation à évaluer les risques liés à l'IA et à établir des règles claires

L'insistance des parlementaires sur la nécessité de mesures plus fermes pour empêcher l'intelligence artificielle de saper insidieusement la stabilité économique, à commencer par des évaluations de résistance, semble logique de la part des organismes de surveillance. Les autorités de contrôle financier subissent une pression croissante de la part des législateurs pour adopter des évaluations spécifiques axées sur l'IA, similaires à celles utilisées pour les banques en période de crise.

Sous pression, les outils automatisés peuvent se comporter de manière imprévisible ; les organismes de surveillance ont besoin de preuves, et non de suppositions. Seuls de tels essais permettent aux autorités de déterminer précisément comment les algorithmes peuvent engendrer des perturbations ou amplifier les turbulences lors des changements de marché.

Les tests de résistance permettent de simuler les conséquences d'une perturbation inattendue des marchés par l'intelligence artificielle. En cas de dysfonctionnement ou de panne des algorithmes, les organismes de surveillance peuvent observer les réactions des banques sous pression. 

Anticiper les problèmes révèle les vulnérabilités, non seulement des plateformes de trading, mais aussi des évaluations des risques et des mécanismes de protection au sein des institutions. Il est plus judicieux de corriger les problèmes au plus tôt que de réagir une fois que le chaos s'est propagé rapidement dans les circuits financiers.dentles difficultés en amont permettra aux autorités de surveillance et aux entreprises de rectifier le tir tant qu'il est encore temps.

Outre les tests de résistance, les parlementaires insistent sur la nécessité de lignes directrices claires encadrant l'utilisation courante de l'intelligence artificielle au sein des institutions financières. L'Autorité de conduite financière est invitée à définir des limites claires pour les applications éthiques de l'IA en situation réelle.

Les lignes directrices doivent préciser comment les protections actuelles des consommateurs s'appliquent lorsque des systèmes automatisés prennent des décisions à la place d'humains, afin d'éviter les lacunes en matière de responsabilité en cas de défaillance. L'attribution des responsabilités doit être explicite si l'IA fonctionne mal, empêchant ainsi les entreprises de rejeter la faute sur les machines.

Si un problème survenait avec une seule plateforme technologique principale, de nombreuses banques pourraient en être affectées simultanément. Aujourd'hui, une poignée d'entreprises portent la lourde responsabilité du bon fonctionnement des systèmes bancaires à travers le pays. 

Lorsque des services hébergés par des géants comme Amazon Web Services ou Google Cloud rencontrent des problèmes, ripple se font rapidement sentir. Les législateurs soulignent la fragilité de la situation lorsque tant de personnes dépendent d'un si petit nombre de fournisseurs. Plus la dépendance est forte, plus les conséquences d'un dysfonctionnement sont graves pour tous.