El Banco de la Reserva de la India (RBI) elabora normas de gobernanza de la IA que exigen mecanismos de desactivación y supervisión a nivel de consejo de administración para los bancos

El Banco de la Reserva de la India (RBI) ha publicado un borrador de directrices que obligarían a los bancos y otras entidades financieras reguladas a adoptar estructuras establecidas para gestionar los riesgos vinculados a la inteligencia artificial y los modelos de aprendizaje automático.

Estos sistemas de gestión de riesgos propuestos incluirán interruptores de apagado obligatorios que desconectarán instantáneamente cualquier sistema de IA que produzca resultados dañinos.

Los intereses del RBI

Las normas y directrices propuestas por el Banco de la Reserva de la India (RBI) para mitigar estos riesgos relacionados con la IA están abiertas a comentarios del público hasta el 24 de julio. Estas directrices abarcan todos los modelos utilizados en las operaciones bancarias, desde calculadoras básicas de hojas de cálculo hasta complejos sistemas de IA generativa.

Los bancos tendrían que mantener inventarios de todos los modelos en funcionamiento, evaluar el riesgo periódicamente tanto a nivel individual como empresarial, y tomar medidas correctivas cuando los riesgos superen los umbrales aceptables. Las medidas correctivas pueden abarcar desde controles más estrictos hasta la desactivación completa del modelo, con informes detallados de los riesgos que motivaron dichas acciones.

El marco también incluye un sistema de clasificación de riesgos dividido en varios niveles. A cada modelo, independientemente de su complejidad, se le debe asignar un nivel de riesgo específico, junto con la supervisión humana. Los modelos de alto riesgo requerirán la aprobación del Comité de Gestión de Riesgos del consejo de administración.

Mecanismos de desactivación y supervisión humana para los modelos de IA

Se espera que los bancos incorporen mecanismos de anulación, suspensión y desactivación en cada implementación de modelos de IA, de modo que cualquier modelo pueda desactivarse inmediatamente si produce resultados erróneos o perjudiciales.

El Banco de la Reserva de la India (RBI) también señaló lo que denominó un “sesgo de automatización”, que es el riesgo de que los empleados bancarios aprueben los resultados de la IA sin ejercer ningún tipo de juiciodent . Para los sistemas de IA orientados al cliente, las directrices obligarán a los bancos a informar a sus clientes cuando interactúen con un modelo de IA y a darles la opción de hablar con un humano en cualquier momento.

Según Reuters, los modelos de IA generativa que interactúan con clientes o usuarios externos se enfrentarán a requisitos adicionales de ciberseguridad en virtud de la propuesta preliminar

Los proveedores de IA de terceros están bajo escrutinio

Los bancos siguen siendo plenamente responsables de cualquier modelo de IA que decidan utilizar, independientemente de si lo desarrollaron internamente o lo adquirieron de un proveedor. El Banco de la Reserva de la India (RBI) también señaló que la concentración de la cadena de suministro era una de sus preocupaciones, indicando el riesgo de que los bancosdent excesivamente de un pequeño número de proveedores globales de IA.

Se requiere validacióndent para todos los modelos de IA de terceros. Los bancos también deben defiumbrales para los modelos de IA y aprendizaje automático, asegurándose de poder explicar en términos sencillos por qué un modelo produjo un resultado determinado.

El Banco de la Reserva de la India (RBI) lleva tiempo reforzando su postura sobre la gobernanza tecnológica. Estas directrices preliminares representan la primera vez que el banco central de la India propone una estructura de rendición de cuentas integral a nivel de consejo de administración, específicamente para los riesgos de los modelos de IA en todo el sector financiero.