I legislatori britannici spingono per test di stress AI per evitare interruzioni di mercato

Un gruppo trasversale di legislatori britannici sta spingendo i regolatori ad adottare test di stress focalizzati sull'AI per il settore finanziario, avvertendo che l'aumento dell'uso dell'intelligenza artificiale potrebbe esporre consumatori e mercati a gravi interruzioni se lasciato non gestito.

In un rapporto pubblicato martedì, il Comitato Selettivo del Tesoro ha criticato l'Autorità di condotta finanziaria (FCA) e la Banca d'Inghilterra per quello che gli deputati hanno descritto come un cautela

Gli ufficiali hanno dichiarato che la tecnologia in rapida evoluzione richiede risposte più rapide da parte degli organismi di vigilanza, come l'introduzione di test di stress. Man mano che le società finanziarie fanno sempre più affidamento sull'intelligenza artificiale, i ritardi potrebbero compromettere la stabilità. Quando le macchine gestiscono operazioni, approvazioni di prestiti o previsioni di rischio, le vulnerabilità possono propagarsi su più piattaforme senza preavviso. Se diversi sistemi falliscono contemporaneamente, il caos potrebbe scoppiare prima che qualcuno riesca a reagire.

I legislatori affermano che l'IA potrebbe destabilizzare i mercati finanziari.

Emergono avvertimenti sulle lacune nella vigilanza mentre l'intelligenza artificiale si diffonde rapidamente nel settore finanziario britannico. Alcuni ufficiali suggeriscono che si presti insufficiente attenzione a ciò che potrebbe accadere se i sistemi dovessero avanzare troppo oltre la capacità di vigilanza. La Commissione parlamentare per il Tesoro segnala ritardi da parte della Bank of England, della Financial Conduct Authority e del Tesoro nella gestione del rischio. Il passo imposto dalle aziende private che utilizzano strumenti avanzati supera gli attuali sforzi normativi.

Attendere troppo a lungo potrebbe significare che i problemi si presentano prima che qualcuno possa rispondere. La commissione sottolinea che gli ufficiali stanno tirando indietro la mano, sperando che i problemi non si verifichino. Quando i sistemi falliscono, potrebbe esserci quasi zero margine per risolvere le cose abbastanza rapidamente. Invece di intervenire in un secondo momento, è più sensato osservare come l'intelligenza artificiale si comporta durante i momenti difficili. Gli ufficiali credono che la preparazione batta la corsa contro il tempo quando tutto è già in frantumi.

Le aziende in tutto il settore finanziario del Regno Unito fanno sempre più affidamento sull'intelligenza artificiale ogni giorno, spesso senza testare come le prestazioni dei sistemi sotto pressione. Oltre il 75% delle istituzioni finanziarie britanniche utilizza l'IA nelle funzioni centrali, quindi la sua influenza sulle scelte economiche è, se mai, invisibile. Le decisioni sugli investimenti vengono prese utilizzando la logica delle macchine piuttosto che l'istinto umano. L'automazione guida le approvazioni, mentre gli algoritmi giudicano l'idoneità al prestito senza revisione tradizionale. Le richieste di assicurazione avanzano non sulle valutazioni degli impiegati ma su valutazioni codificate.

Anche la documentazione di base viene gestita digitalmente anziché manualmente. La velocità definisce questi processi; tuttavia, la rapidità aumenta l'esposizione quando emergono difetti. Un singolo errore può risuonare ampiamente perché le connessioni tra le organizzazioni sono strette.

Jonathan Hall, membro esterno del Comitato per la Politica Finanziaria della Bank of England, ha dichiarato ai legislatori che test di stress su misura per l'intelligenza artificiale potrebbero aiutare gli organismi di vigilanza a rilevare i rischi emergenti in anticipo. Gli scenari di stress che simulano gravi interruzioni di mercato, ha spiegato, potrebbero esporre le vulnerabilità nei framework dell'IA prima che si verifichino impatti più ampi sulla resilienza sistemica. 

I deputati esortano i regolatori a testare i rischi dell'IA e a stabilire regole chiare

L'insistenza dei deputati su passi più fermi per impedire che l'intelligenza artificiale minacci silenziosamente la stabilità economica, iniziando con le valutazioni di stress, sembra logica per gli organismi di vigilanza. I supervisori finanziari affrontano una crescente pressione dai legislatori per adottare valutazioni su misura focalizzate sull'IA, simili a quelle utilizzate per le banche durante le recessioni.

Sotto stress, gli strumenti automatizzati potrebbero agire in modo imprevedibile; gli organismi di vigilanza hanno bisogno di prove, non di supposizioni. Solo attraverso tali prove le autorità possono vedere esattamente come gli algoritmi potrebbero innescare disordini o amplificare la turbolenza una volta che i mercati cambiano.

I test di stress potrebbero simulare ciò che accade se l'intelligenza artificiale interrompesse i mercati in modo imprevisto. Quando gli algoritmi si comportano in modo anomalo o smettono di funzionare, gli organi di vigilanza possono osservare le reazioni delle banche sotto pressione. 

Prepararsi in anticipo rivela le vulnerabilità, non solo nelle piattaforme di trading ma anche nelle valutazioni del rischio e nelle salvaguardie all'interno delle istituzioni. Risolvere i problemi prima sembra più saggio che rispondere dopo che il caos si è diffuso rapidamente nei canali finanziari. Identificare i problemi in anticipo consentirà sia ai supervisori che alle aziende di correggere la rotta mentre c'è ancora tempo.

Oltre ai test di stress, i membri del parlamento sottolineano la necessità di linee guida chiare che governino l'uso quotidiano dell'intelligenza artificiale all'interno delle istituzioni finanziarie. Si esorta la Financial Conduct Authority a stabilire confini chiari per le applicazioni etiche dell'IA negli ambienti reali.

Le linee guida devono chiarire come le attuali tutele dei consumatori si applicano quando i sistemi automatizzati prendono decisioni anziché gli esseri umani, prevenendo lacune di responsabilità durante i guasti. L'assegnazione della responsabilità dovrebbe essere esplicita se l'IA esegue operazioni errate, impedendo alle aziende di scaricare la colpa sulle macchine.

Se qualcosa dovesse andare storto con una singola piattaforma tecnologica principale, molte banche potrebbero inciampare insieme. Un manipolo di aziende ora detiene una grande responsabilità nel mantenere in funzione i sistemi bancari in tutto il paese. 

Quando i servizi ospitati da nomi come Amazon Web Services o Google Cloud incontrano problemi, gli effetti a catena colpiscono rapidamente. I legislatori sottolineano quanto le cose diventino fragili quando così tanti dipendono da così pochi. Più la dipendenza cresce, più dura sarà l'impatto per tutti se un glitch si insinua.