O RBI (Banco Central da Índia) elabora regras de governança de IA que exigem mecanismos de desativação e supervisão em nível de diretoria para bancos

O Banco Central da Índia (RBI) divulgou diretrizes preliminares que obrigariam os bancos e outras entidades financeiras regulamentadas a adotar estruturas estabelecidas para gerenciar os riscos associados à inteligência artificial e aos modelos de aprendizado de máquina.

Esses sistemas de gerenciamento de riscos propostos incluirão mecanismos de desligamento obrigatórios que desativarão instantaneamente qualquer sistema de IA que produza resultados prejudiciais.

Os interesses do RBI

As regras e diretrizes propostas pelo RBI para mitigar esses riscos da IA ​​estão abertas para consulta pública até 24 de julho. Essas diretrizes abrangem todos os modelos usados ​​nas operações bancárias, desde calculadoras básicas em planilhas até sistemas complexos de IA generativa.

Os bancos teriam que manter inventários de todos os modelos em operação, avaliar regularmente os riscos tanto no nível individual quanto no corporativo e tomar medidas corretivas quando os riscos ultrapassarem os limites aceitáveis. As medidas corretivas podem variar desde controles mais rigorosos até a desativação completa do modelo, com relatórios detalhados dos riscos que levaram a tais ações.

A estrutura também inclui um sistema de classificação de risco dividido em vários níveis. Cada modelo, independentemente da complexidade, deve ter um nível de risco específico atribuído, além de supervisão humana. Modelos de alto risco exigirão aprovação do Comitê de Gestão de Riscos em nível de diretoria.

Mecanismos de desligamento e supervisão humana para modelos de IA

Espera-se que os bancos incorporem mecanismos de sobreposição, suspensão e desativação em cada implementação de modelo de IA, para que qualquer modelo possa ser desligado imediatamente caso produza resultados errôneos ou prejudiciais.

O RBI também apontou para o que chamou de "viés de automação", que é o risco de que funcionários de bancos aprovem os resultados da IA ​​sem exercer qualquer tipo de julgamentodent . Para sistemas de IA voltados para o cliente, as diretrizes obrigarão os bancos a informar seus clientes quando estiverem interagindo com um modelo de IA e a oferecer a opção de falar com um humano a qualquer momento.

Segundo a Reuters, os modelos de IA generativa que interagem com clientes ou usuários externos estarão sujeitos a requisitos adicionais de segurança cibernética, de acordo com a proposta em elaboração

Fornecedores terceirizados de IA estão sob escrutínio

Os bancos continuam totalmente responsáveis ​​por qualquer modelo de IA que optem por utilizar, independentemente de ser desenvolvido internamente ou adquirido de um fornecedor. O RBI também afirmou que a concentração da cadeia de suprimentos era uma de suas preocupações, apontando para o risco de os bancos se tornarem excessivamentedent de um pequeno número de fornecedores globais de IA.

É necessária validaçãodent para todos os modelos de IA de terceiros. Os bancos também devem defilimites para modelos de IA e aprendizado de máquina, garantindo que possam explicar em termos claros por que um modelo produziu um determinado resultado.

O RBI (Banco Central da Índia) vem reforçando sua postura em relação à governança tecnológica há algum tempo. Estas diretrizes preliminares representam a primeira vez que o banco central indiano propõe uma estrutura abrangente de responsabilização em nível de diretoria, especificamente para os riscos de modelos de IA em todo o setor financeiro.