La Banca d'Inghilterra segnala gli agenti basati sull'intelligenza artificiale come rischio per la stabilità finanziaria e chiede una risposta normativa a livello globale

Sarah Breeden, vice governatrice della Banca d'Inghilterra per la stabilità finanziaria, ha avvertito che i sistemi autonomi di intelligenza artificiale rappresentano una minaccia crescente per i mercati finanziari, la sicurezza informatica e le infrastrutture di pagamento, esortando le banche centrali di tutto il mondo a valutare una migliore regolamentazione del settore.

Intervenendo al forum annuale della Banca Centrale Europea a Sintra, in Portogallo, Breeden ha spiegato che l'intelligenza artificiale agentiva sta progredendo più rapidamente di quanto previsto dalle autorità di regolamentazione. Secondo le sue osservazioni, nel 2019 la durata dei compiti software che i modelli di IA più avanzati erano in grado di completare raddoppiava ogni sette mesi. Tuttavia, entro il 2024, il raddoppio si verificava ogni quattro mesi.

Le scoperte nel rilevamento delle vulnerabilità informatiche avvenute questa primavera suggeriscono che questo ritmo potrebbe essersi accelerato.

"Siamo rimasti sorpresi questa primavera e dovremmo essere preparati ad ulteriori sorprese tecnologiche", ha dichiarato durante l'evento del 30 giugno.

Dalla generazione di contenuti all'azione autonoma

Breeden ha sottolineato tre fasi importanti dello sviluppo dell'IA, spiegando che all'inizio del decennio i sistemi di IA generativa producevano contenuti solo su richiesta. Entro la fine del 2024, i modelli erano stati addestrati per ragionare su problemi a più fasi. Ora, i sistemi agentivi possono pianificare ed eseguire sequenze di decisioni in completa autonomia, senza alcuna supervisione umana.

Applicata al settore finanziario, questa traiettoria indica un sistema in cui gli agenti di intelligenza artificiale possono negoziare titoli, elaborare pagamenti e rispondere alle minacce informatiche con un coinvolgimento umano limitato. Breeden ha poi descritto un sistema finanziario che "opera in modo più autonomo, su larga scala e con maggiore velocità", con agenti che agiscono per conto di consumatori, commercianti e piattaforme di trading.

La Banca d'Inghilterra è la principale preoccupata per i rischi informatici

Tra i numerosi rischi per la stabilità finanziaria, Breeden ha individuato la sicurezza informatica come la questione più critica. Ha citato l'AI Security Institute del governo britannico, che hadentun enorme miglioramento nelle capacità dell'intelligenza artificiale agentiva su Internet.

Gli stessi strumenti che aiutano i difensori a individuare e correggere le vulnerabilità offrono anche agli aggressori la possibilità di scoprirle e sfruttarle. Breeden ha avvertito che l'uso malevolo di queste funzionalità "aumenta in modo significativo la probabilità di attacchi che potrebbero compromettere la stabilità finanziaria"

Le osservazioni di Breeden includevano il suggerimento che gli strumenti di trading autonomo potrebbero necessitare di "interruttori di sicurezza" integrati per prevenire shock di mercato, il che rappresenterebbe una deviazione dalle attuali normative vigenti.

Il boom degli investimenti comporta rischi enormi

Breeden ha menzionato un'altra preoccupazione riguardante il finanziamento di questi agenti di intelligenza artificiale. Il Comitato di politica finanziaria della Banca ha concluso ad aprile che, mentre le grandi aziende tecnologiche avevano inizialmente finanziato la creazione e la manutenzione delle infrastrutture di IA con flussi cash e capitale proprio, l'uso del finanziamento tramite debito stava aumentando rapidamente e assumendo forme nuove e complesse.

Ciò significa che un improvviso calo delle valutazioni degli asset legati all'intelligenza artificiale potrebbe ora provocare un'onda ripple di vasta portata nei mercati del credito. Il vice governatore della Banca d'Inghilterra ha affermato che il comitato ha valutato che "le conseguenze sulla stabilità finanziaria di un eventuale calo dei prezzi degli asset legati all'intelligenza artificiale potrebbero aggravarsi"

Una valutazione più approfondita da parte della commissione su questo argomento è attesa per il 7 luglio.

Breeden ha inoltre sostenuto che le banche centrali devono adattarsi e utilizzare l'IA in prima persona per supervisionare questi sistemi, e non concentrarsi solo sulla gestione dei rischi introdotti dall'IA.