RBI redige regras de governança de IA exigindo interruptores de emergência e supervisão em nível de conselho para bancos

- O Banco Central da Índia propôs, em 24 de junho, regras preliminares que exigem que todos os bancos e entidades financeiras reguladas implementem estruturas de governança de IA aprovadas pelo conselho de administração, incluindo a obrigatoriedade de interruptores de emergência (kill switches) para qualquer modelo de IA e supervisão humana das decisões automatizadas.
- As diretrizes, abertas para comentários até 24 de julho, também exigem a classificação dos modelos por nível de risco e responsabilizam os bancos pelos sistemas de IA de terceiros que implantam.
- Para participantes do mercado de criptomoedas, as regras podem afetar a forma como os bancos utilizam a IA em sistemas de conformidade e monitoramento de transações que funcionam como portões de entrada para moeda fiduciária.
O Banco da Reserva da Índia (RBI) lançou diretrizes preliminares que obrigariam bancos e outras entidades financeiras reguladas a adotar estruturas estabelecidas para gerenciar riscos associados a modelos de inteligência artificial e aprendizado de máquina.
Esses sistemas propostos de gerenciamento de riscos incluirão interruptores de emergência obrigatórios que desligam instantaneamente qualquer sistema de IA que produza resultados prejudiciais.
Os interesses do RBI
As regras e diretrizes propostas para mitigar esses riscos de IA elaboradas pelo RBI estão abertas para feedback público até 24 de julho. Essas diretrizes cobrem todos os modelos usados nas operações bancárias, desde calculadoras básicas de planilhas até sistemas complexos de IA generativa.
Os bancos teriam que manter inventários de todos os modelos em suas operações, avaliar riscos tanto no nível individual quanto corporativo regularmente e tomar medidas corretivas quando os riscos ultrapassarem os limiares aceitáveis. Os modos de ação corretiva podem variar de controles mais rigorosos à desativação completa do modelo, com relatórios detalhados dos riscos que levaram a essas ações.
A estrutura também envolve um sistema de classificação de riscos dividido em várias camadas. Todo modelo, independentemente da complexidade, deve ser atribuído a um nível de risco específico, juntamente com supervisão humana. Modelos de alto risco exigirão aprovação do Comitê de Gerenciamento de Riscos em nível de conselho.
Interruptores de emergência e supervisão humana para modelos de IA
Espera-se que os bancos construam mecanismos de substituição, suspensão e desativação em toda implantação de modelo de IA, para que qualquer modelo possa ser desligado imediatamente se produzir resultados errôneos ou prejudiciais.
O RBI também apontou o que chamou de “viés de automação”, que é o risco de os funcionários do banco aprovarem os resultados da IA sem exercer qualquer forma de julgamento independente. Para sistemas de IA voltados ao cliente, as diretrizes obrigarão os bancos a informar seus clientes quando estiverem interagindo com um modelo de IA e dar-lhes a opção de falar com um humano a qualquer momento.
Modelos de IA generativa que interagem com clientes ou usuários externos enfrentarão requisitos adicionais de cibersegurança sob a proposta redigida, de acordo com a Reuters.
Provedores de IA de terceiros ficam sob escrutínio
Os bancos permanecem totalmente responsáveis por qualquer modelo de IA que escolham empregar, independentemente de ser construído internamente ou adquirido de um fornecedor. O RBI também afirmou que a concentração da cadeia de suprimentos era uma de suas preocupações, apontando para o risco de os bancos se tornarem excessivamente dependentes de um pequeno número de provedores globais de IA.
A validação independente é exigida para todos os modelos de IA de terceiros. Os bancos também devem definir limiares para modelos de IA e aprendizado de máquina, garantindo que possam articular em termos simples por que um modelo produziu determinada saída.
O RBI tem endurecido sua posição de governança tecnológica há algum tempo. Essas diretrizes preliminares representam a primeira vez que o banco central da Índia propôs uma estrutura abrangente de responsabilidade em nível de conselho especificamente para riscos de modelos de IA em todo o setor financeiro.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.

Opeyemi Olanrewaju
Opeyemi é especialista em criar e refinar conteúdo de alta qualidade focado em criptomoedas, mercados financeiros globais e economia. Formou-se pela Universidade de Ibadan com grau de MBBS. Trabalhou como Editor-Chefe da publicação editorial de sua faculdade e anteriormente na CFA. Por mais de seis anos, ajudou a salvaguardar a originalidade como editor de notícias na Cryptopolitan.















