Los legisladores del Reino Unido impulsan pruebas de estrés de IA para evitar interrupciones en el mercado

Un grupo transpartidista de legisladores del Reino Unido está presionando a los reguladores para que adopten pruebas de estrés centradas en la IA para el sector financiero, advirtiendo que el creciente uso de la inteligencia artificial podría exponer a los consumidores y a los mercados a graves interrupciones si no se gestiona adecuadamente.

En un informe publicado el martes, el Comité Selecto del Tesoro criticó a la Autoridad de Conducta Financiera (FCA) y al Banco de Inglaterra por lo que los diputados describieron como una cautelosa postura regulatoria de «esperar a ver» hacia la inteligencia artificial, a pesar de su amplia adopción en la City de Londres.

Los funcionarios han declarado que la tecnología en rápida evolución exige respuestas más rápidas por parte de los organismos de supervisión, como la introducción de pruebas de estrés. A medida que las empresas financieras dependen cada vez más de la inteligencia artificial, los retrasos podrían costar estabilidad. Cuando las máquinas gestionan operaciones, aprobaciones de préstamos o previsiones de riesgos, los fallos pueden propagarse por múltiples plataformas sin previo aviso. Si varios sistemas fallan simultáneamente, el caos podría estallar antes de que alguien reaccione.

Los legisladores dicen que la IA podría alterar los mercados financieros.

Surgen advertencias sobre las lagunas en la supervisión a medida que la inteligencia artificial avanza rápidamente por el sector financiero británico. Algunos funcionarios sugieren que no se presta la suficiente atención a lo que podría ocurrir si los sistemas avanzan demasiado por delante de la supervisión. El Comité Selecto del Tesoro del Parlamento señala los retrasos del Banco de Inglaterra, la Autoridad de Conducta Financiera y el Tesoro en la gestión de riesgos. El ritmo marcado por las empresas privadas que utilizan herramientas avanzadas supera los esfuerzos actuales de creación de normas.

Esperar demasiado podría significar que los problemas lleguen antes de que alguien pueda responder. El comité señala que los funcionarios están conteniéndose, esperando que no surjan problemas. Cuando los sistemas fallan, puede haber casi ningún margen para arreglar las cosas lo suficientemente rápido. En lugar de intervenir más tarde, tiene más sentido observar cómo actúa la inteligencia artificial durante momentos difíciles. Los funcionarios creen que la preparación es mejor que el caos cuando todo ya se está desmoronando.

Las empresas de todo el sector financiero del Reino Unido dependen cada vez más de la inteligencia artificial todos los días, a menudo sin realizar pruebas de estrés sobre el rendimiento de los sistemas bajo presión. Más del 75% de las instituciones financieras británicas utilizan IA en funciones centrales, por lo que su influencia en las decisiones económicas es, si cabe, invisible. Las decisiones sobre inversiones se toman utilizando lógica de máquina en lugar de instinto humano. La automatización guía las aprobaciones, mientras que los algoritmos juzgan la elegibilidad para préstamos sin revisión tradicional. Las reclamaciones de seguros avanzan no sobre las evaluaciones de los empleados administrativos, sino sobre evaluaciones codificadas.

Incluso el papeleo básico se gestiona digitalmente en lugar de manualmente. La velocidad define estos procesos; sin embargo, la rapidez aumenta la exposición cuando emergen fallos. Un solo error puede resonar ampliamente porque las conexiones entre las organizaciones son estrechas.

Jonathan Hall, miembro externo del Comité de Política Financiera del Banco de Inglaterra, dijo a los legisladores que las pruebas de estrés específicas para la inteligencia artificial podrían ayudar a los organismos de supervisión a detectar riesgos emergentes con antelación. Los escenarios de estrés que simulan graves interrupciones del mercado, explicó, podrían exponer vulnerabilidades en los marcos de IA antes de que ocurran impactos más amplios en la resiliencia sistémica. 

Los diputados instan a los reguladores a probar los riesgos de la IA y establecer normas claras

La insistencia de los diputados en pasos más firmes para evitar que la inteligencia artificial socave silenciosamente la estabilidad económica, comenzando con evaluaciones de estrés, parece lógica para los organismos de supervisión. Los supervisores financieros enfrentan una creciente presión por parte de los legisladores para adoptar evaluaciones específicas centradas en la IA, similares a las utilizadas para los bancos durante las recesiones.

Bajo presión, las herramientas automatizadas pueden actuar de manera impredecible; los organismos de supervisión necesitan pruebas, no suposiciones. Solo a través de tales ensayos las autoridades pueden ver exactamente cómo los algoritmos podrían provocar disrupción o amplificar el caos una vez que los mercados cambien.

Las pruebas de estrés podrían imitar lo que sucede si la inteligencia artificial interrumpe los mercados inesperadamente. Cuando los algoritmos se comportan de manera extraña o dejan de funcionar, los organismos de supervisión pueden observar las reacciones de los bancos bajo presión. 

Prepararse con antelación revela vulnerabilidades, no solo en las plataformas de negociación, sino también en las evaluaciones de riesgos y salvaguardas dentro de las instituciones. Corregir los problemas más pronto parece más sabio que responder después de que el caos se extienda rápidamente por los canales financieros. Identificar los problemas de antemisión permitirá tanto a los supervisores como a las empresas ajustar el rumbo mientras aún hay tiempo.

Además de las pruebas de estrés, los miembros del parlamento enfatizan la necesidad de directrices claras que regulen el uso rutinario de la inteligencia artificial dentro de las instituciones financieras. Se insta a la Autoridad de Conducta Financiera a establecer límites claros para las aplicaciones éticas de la IA en entornos reales.

La orientación debe aclarar cómo se aplican las actuales protecciones al consumidor cuando los sistemas automatizados toman decisiones en lugar de los humanos, evitando lagunas de responsabilidad durante los fallos. La asignación de responsabilidad debe ser explícita si la IA actúa incorrectamente, haciendo imposible que las empresas desvíen la culpa hacia las máquinas.

Si algo sale mal con una sola plataforma tecnológica principal, muchos bancos podrían tropezar juntos. Un puñado de empresas ahora tiene una gran responsabilidad en el mantenimiento de los sistemas bancarios en todo el país. 

Cuando los servicios alojados por nombres como Amazon Web Services o Google Cloud experimentan problemas, los efectos secundarios se propagan rápidamente. Los legisladores señalan lo frágiles que se vuelven las cosas cuando tantos dependen de tan pocos. Cuanto mayor es la dependencia, más duro golpea a todos si se cuela un error.