La RBI stila regole di governance sull'IA che richiedono interruzioni di emergenza e supervisione a livello di consiglio per le banche

- Il 24 giugno la Banca di Riserva dell'India ha proposto norme bozze che obbligano tutte le banche e gli enti finanziari regolamentati a implementare quadri di governance sull'IA approvati dal consiglio di amministrazione, inclusi interruttori di emergenza (kill switch) obbligatori per qualsiasi modello di IA e il controllo umano sulle decisioni automatizzate.
- Le linee guida, aperte alla raccolta di pareri fino al 24 luglio, richiedono inoltre una classificazione dei modelli basata sul livello di rischio e rendono le banche responsabili dei sistemi di IA di terze parti da esse implementati.
- Per i partecipanti al mercato delle criptovalute, queste norme potrebbero influenzare il modo in cui le banche utilizzano l'IA nei sistemi di conformità e monitoraggio delle transazioni che fungono da gateway per la valuta fiat.
La Reserve Bank of India (RBI) ha pubblicato linee guida provvisorie che obbligherebbero le banche e altre entità finanziarie regolamentate ad adottare strutture predisposte per gestire i rischi legati all'intelligenza artificiale e ai modelli di machine learning.
Questi sistemi di gestione del rischio proposti includeranno interruttori di emergenza (kill switch) obbligatori che spengono istantaneamente qualsiasi sistema di IA che produca output dannosi.
Gli interessi della RBI
Le regole e le linee guida proposte per mitigare questi rischi dell'IA, elaborate dalla RBI, sono aperte al feedback pubblico fino al 24 luglio. Queste linee guida coprono ogni modello utilizzato nelle operazioni bancarie, dai semplici calcolatori su foglio di calcolo ai complessi sistemi di IA generativa.
Le banche dovrebbero tenere inventari di tutti i modelli in uso, valutare il rischio sia a livello individuale che aziendale regolarmente e intraprendere azioni correttive quando i rischi superano le soglie accettabili. Le modalità di azione correttiva possono variare da controlli più rigorosi alla completa dismissione del modello, con rapporti dettagliati sui rischi che hanno portato a tali azioni.
Il framework prevede anche un sistema di classificazione del rischio suddiviso in più livelli. Ogni modello, indipendentemente dalla complessità, deve essere assegnato a un determinato livello di rischio, insieme a una supervisione umana. I modelli ad alto rischio richiederanno l'approvazione del Comitato per la Gestione del Rischio a livello di consiglio di amministrazione.
Interruttori di emergenza e supervisione umana per i modelli di IA
Ci si aspetta che le banche integrino meccanismi di override, sospensione e disattivazione in ogni implementazione di un modello di IA, in modo che qualsiasi modello possa essere spento immediatamente se produce risultati errati o dannosi.
La RBI ha anche sottolineato ciò che ha definito "bias di automazione", ovvero il rischio che i dipendenti delle banche approvino gli output dell'IA senza esercitare alcuna forma di giudizio indipendente. Per i sistemi di IA rivolti ai clienti, le linee guida obbligheranno le banche a informare i clienti quando stanno interagendo con un modello di IA e a dare loro la possibilità di parlare con un essere umano in qualsiasi momento.
I modelli di intelligenza artificiale generativa che interagiscono con i clienti o utenti esterni saranno soggetti a ulteriori requisiti di cybersecurity ai sensi della proposta bozza, secondo Reuters.
I fornitori di IA di terze parti sotto scrutinio
Le banche rimangono pienamente responsabili per qualsiasi modello di IA scelgano di utilizzare, indipendentemente dal fatto che sia sviluppato internamente o acquistato da un fornitore. La RBI ha anche dichiarato che la concentrazione della catena di approvvigionamento era una delle sue preoccupazioni, segnalando il rischio che le banche diventino eccessivamente dipendenti da un numero limitato di fornitori globali di IA.
È richiesta una convalida indipendente per tutti i modelli di IA di terze parti. Le banche devono anche definire soglie per i modelli di IA e machine learning, assicurandosi di poter articolare in termini semplici perché un modello ha prodotto un determinato output.
La RBI sta stringendo la sua posizione di governance tecnologica da un po' di tempo. Queste linee guida provvisorie rappresentano la prima volta che la banca centrale dell'India ha proposto una struttura di responsabilità a livello di consiglio di amministrazione specificamente per i rischi dei modelli di IA in tutto il settore finanziario.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.

Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.















