Legisladores do Reino Unido pressionam por testes de estresse de IA para evitar interrupções no mercado

Um grupo transpartidário de legisladores do Reino Unido está pressionando os reguladores a adotar testes de estresse focados em IA para o setor financeiro, alertando que o aumento do uso de inteligência artificial pode expor consumidores e mercados a sérias interrupções se não for gerenciado.

Em um relatório publicado na terça-feira, o Comitê do Tesouro criticou a Autoridade de Conduta Financeira (FCA) e o Banco da Inglaterra por o que os parlamentares descreveram como uma postura regulatória cautelosa de “esperar para ver” em relação à inteligência artificial, apesar de sua ampla adoção em toda a City de Londres.

Os funcionários afirmaram que a tecnologia em rápida evolução exige respostas mais rápidas dos órgãos de supervisão, como a introdução de testes de estresse. À medida que as empresas financeiras dependem cada vez mais da inteligência artificial, os atrasos podem custar estabilidade. Quando as máquinas realizam negociações, aprovações de empréstimos ou previsões de risco, falhas podem se espalhar por várias plataformas sem aviso. Se vários sistemas falharem juntos, a turbulência pode eclodir antes que alguém reaja.

Legisladores dizem que a IA pode perturbar os mercados financeiros.

Alertas estão surgindo sobre lacunas na supervisão à medida que a inteligência artificial avança rapidamente pelo setor financeiro da Grã-Bretanha. Alguns funcionários sugerem que atenção insuficiente é dada ao que pode acontecer se os sistemas ficarem muito à frente da supervisão. O Comitê Selecionado do Tesouro do Parlamento aponta para atrasos pelo Banco da Inglaterra, pela Autoridade de Conduta Financeira e pelo Tesouro na gestão de riscos. O ritmo definido pelas empresas privadas que usam ferramentas avançadas supera os esforços atuais de regulamentação.

Esperar demais pode significar que problemas surgem antes que alguém possa responder. O comitê observa que os funcionários estão hesitantes, esperando que os problemas não surjam. Quando os sistemas falham, pode haver quase nenhuma margem para corrigir as coisas com rapidez suficiente. Em vez de intervir mais tarde, observar como a inteligência artificial se comporta durante momentos difíceis faz mais sentido. Os funcionários acreditam que a preparação é melhor do que agir às pressas quando tudo já está desmoronando.

Empresas em todo o setor financeiro do Reino Unido dependem cada vez mais da inteligência artificial todos os dias, muitas vezes sem testar o estresse de como os sistemas se comportam sob pressão. Mais de 75% das instituições financeiras britânicas usam IA em funções centrais, portanto, sua influência nas decisões econômicas é, se houver, invisível. Decisões sobre investimentos são feitas usando lógica de máquina em vez de instinto humano. A automação guia aprovações, enquanto algoritmos julgam a elegibilidade para empréstimos sem revisão tradicional. Reclamações de seguros avançam não com base nas avaliações de funcionários, mas em avaliações codificadas.

Mesmo o papelada básica é tratada digitalmente, em vez de manualmente. A velocidade define esses processos; no entanto, a rapidez aumenta a exposição quando surgem falhas. Um único passo em falso pode ecoar amplamente porque as conexões entre as organizações são apertadas.

Jonathan Hall, membro externo do Comitê de Política Financeira do Banco da Inglaterra, disse aos legisladores que testes de estresse personalizados para inteligência artificial poderiam ajudar os órgãos de supervisão a detectar riscos emergentes mais cedo. Cenários de estresse simulando interrupções severas no mercado, explicou ele, poderiam expor vulnerabilidades nas estruturas de IA antes que ocorram impactos mais amplos na resiliência sistêmica. 

Deputados exigem que reguladores testem riscos da IA e estabeleçam regras claras

A insistência dos deputados em medidas mais firmes para impedir que a inteligência artificial enfraqueça silenciosamente a estabilidade econômica, começando com avaliações de estresse, parece lógica para os órgãos de supervisão. Os supervisores financeiros enfrentam pressão crescente dos legisladores para adotar avaliações personalizadas focadas na IA, espelhando aquelas usadas para bancos durante recessões.

Sob pressão, as ferramentas automatizadas podem agir de maneira imprevisível; os órgãos de fiscalização precisam de provas, não de suposições. Somente por meio desses testes as autoridades podem ver exatamente como os algoritmos podem desencadear disrupções ou amplificar o tumulto assim que os mercados mudarem.

Testes de estresse podem imitar o que acontece se a inteligência artificial perturbar os mercados inesperadamente. Quando os algoritmos se comportam de forma estranha ou param de funcionar, os órgãos de supervisão podem observar as reações dos bancos sob pressão. 

Preparar-se com antecedência revela vulnerabilidades, não apenas nas plataformas de negociação, mas também nas avaliações de risco e salvaguardas dentro das instituições. Corrigir problemas mais cedo parece mais sábio do que responder após o caos se espalhar rapidamente pelos canais financeiros. Identificar problemas com antecedência permitirá que supervisores e empresas ajustem o curso enquanto ainda há tempo.

Além dos testes de estresse, os membros do parlamento enfatizam a necessidade de diretrizes claras que regulem o uso rotineiro da inteligência artificial dentro das instituições financeiras. A Autoridade de Conduta Financeira é instada a estabelecer limites claros para aplicações éticas de IA em configurações do mundo real.

As diretrizes devem esclarecer como as proteções atuais ao consumidor se aplicam quando sistemas automatizados tomam decisões em vez de humanos, impedindo lacunas de responsabilidade durante falhas. A atribuição de responsabilidade deve ser explícita se a IA agir incorretamente, tornando impossível para as empresas desviar a culpa para as máquinas.

Se algo der errado com apenas uma plataforma tecnológica principal, muitos bancos podem tropeçar juntos. Um punhado de empresas agora detém grande responsabilidade por manter os sistemas bancários funcionando em todo o país. 

Quando serviços hospedados por nomes como Amazon Web Services ou Google Cloud enfrentam problemas, os efeitos em cascata atingem rapidamente. Os legisladores apontam o quão frágeis as coisas ficam quando tantos dependem de tão poucos. Quanto maior a dependência cresce, mais difícil é o impacto para todos se uma falha escapar.