La RBI elabora norme di governance sull'IA che prevedono interruttori di sicurezza e supervisione a livello di consiglio di amministrazione per le banche

La Reserve Bank of India (RBI) ha pubblicato una bozza di linee guida che obbligherebbe le banche e gli altri enti finanziari regolamentati ad adottare strutture predisposte per gestire i rischi legati all'intelligenza artificiale e ai modelli di apprendimento automatico.

Questi sistemi di gestione del rischio proposti includeranno interruttori di sicurezza obbligatori che arresteranno istantaneamente qualsiasi sistema di intelligenza artificiale che produca risultati dannosi.

Gli interessi della RBI

Le norme e le linee guida proposte dalla RBI per mitigare i rischi legati all'intelligenza artificiale sono aperte al pubblico per eventuali commenti fino al 24 luglio. Queste linee guida riguardano ogni modello utilizzato nelle operazioni bancarie, dai semplici fogli di calcolo ai complessi sistemi di intelligenza artificiale generativa.

Le banche dovrebbero tenere un inventario di tutti i modelli in uso, valutare regolarmente il rischio sia a livello individuale che aziendale e adottare misure correttive quando i rischi superano le soglie accettabili. Le modalità di intervento correttivo possono variare da controlli più rigorosi alla completa dismissione del modello, con la redazione di report dettagliati sui rischi che hanno portato a tali azioni.

Il quadro di riferimento prevede anche un sistema di classificazione del rischio suddiviso in più livelli. A ciascun modello, indipendentemente dalla sua complessità, deve essere assegnato uno specifico livello di rischio, unitamente alla supervisione umana. I modelli ad alto rischio richiederanno l'approvazione del Comitato per la Gestione del Rischio a livello di consiglio di amministrazione.

Interruttori di sicurezza e supervisione umana per i modelli di intelligenza artificiale

Le banche sono tenute a integrare meccanismi di override, sospensione e disattivazione in ogni modello di intelligenza artificiale implementato, in modo che qualsiasi modello possa essere arrestato immediatamente qualora produca risultati errati o dannosi.

La RBI ha inoltre evidenziato quello che ha definito un "pregiudizio di automazione", ovvero il rischio che i dipendenti delle banche approvino gli output dell'IA senza esercitare alcun tipo di giudiziodent . Per i sistemi di IA rivolti ai clienti, le linee guida imporranno alle banche di informare i clienti quando interagiscono con un modello di IA e di offrire loro la possibilità di parlare con un operatore umano in qualsiasi momento.

Secondo Reuters, i modelli di intelligenza artificiale generativa che interagiscono con i clienti o con utenti esterni dovranno rispettare ulteriori requisiti di sicurezza informatica in base alla proposta in fase di elaborazione

I fornitori di intelligenza artificiale di terze parti finiscono sotto esame

Le banche restano pienamente responsabili di qualsiasi modello di intelligenza artificiale scelgano di utilizzare, indipendentemente dal fatto che sia sviluppato internamente o acquistato da un fornitore. La RBI ha inoltre affermato che la concentrazione della catena di approvvigionamento rappresenta una delle sue preoccupazioni, sottolineando il rischio che le banche diventino eccessivamentedent da un numero ristretto di fornitori globali di intelligenza artificiale.

Per tutti i modelli di intelligenza artificiale di terze parti è richiesta una validazionedent . Le banche devono inoltre defidelle soglie per i modelli di intelligenza artificiale e di apprendimento automatico, assicurandosi di poter spiegare in termini chiari il motivo per cui un modello ha prodotto un determinato risultato.

Da tempo la RBI sta inasprendo le proprie politiche di governance tecnologica. Queste linee guida preliminari rappresentano la prima volta che la banca centrale indiana propone una struttura di responsabilità completa a livello di consiglio di amministrazione, specificamente per i rischi dei modelli di intelligenza artificiale nell'intero settore finanziario.