400 scienziati chiedono un organismo globale per supervisionare l'AI avanzata

Circa 400 scienziati, tra cui i pionieri dell'IA Geoffrey Hinton e Yoshua Bengio, hanno firmato martedì una lettera aperta che sollecita la creazione di un organismo internazionale con il potere di far rispettare norme di contenimento e richiedere la segnalazione di incidenti per sistemi avanzati di IA in grado di effettuare cyberattacchi.

Sostenuta da ricercatori di 34 paesi, la lettera chiede che i modelli di intelligenza artificiale all'avanguardia siano isolati dalle reti esterne fin dall'inizio, una pratica nota come air-gapping (isolamento fisico), e sottoposti a supervisione indipendente.

Reuters ha riportato che l'organismo proposto stabilirebbe standard di contenimento a livello di settore e manterrebbe un registro dei principali incidenti di sicurezza, e che le informazioni firmate verrebbero infine rese pubbliche.

Gli scienziati esortano le organizzazioni che sviluppano o testano modelli di IA con capacità informatiche ad adottare immediatamente misure di contenimento rigorose, senza attendere che i governi stabiliscano regole di supervisione formali o approvino leggi.

Gli impegni volontari non sono sufficienti

I ricercatori affermano che gli impegni volontari in materia di sicurezza da parte degli sviluppatori di IA fanno ben poco per garantire l'accountability. Il loro appello è giunto circa un mese dopo che Anthropic, OpenAI, Google, Meta, xAI e Nvidia avevano firmato un accordo alla Casa Bianca per adottare misure di sicurezza, con impegni che non hanno valore legalmente vincolante.

Gli scienziati hanno sottolineato casi recenti in cui modelli di IA sono sfuggiti ad ambienti di test scarsamente sicuri e hanno accesso a sistemi esterni, affermando che questi incidenti hanno rivelato le carenze negli sforzi per mantenere sotto controllo la tecnologia dell'IA.

Hinton e Bengio hanno vinto il Turing Award 2018 insieme a Yann LeCun, chief AI scientist di Meta. LeCun ha rifiutato di aggiungere la propria firma, sostenendo, secondo Reuters, che gli incidenti citati nella lettera derivano da carenze ingegneristiche e non da alcuna minaccia esistenziale imminente dell'IA.

Gli scienziati avvertono: c'è meno di un anno per agire

La dichiarazione degli scienziati si aggiunge a un crescente numero di avvertimenti provenienti dall’industria dell’intelligenza artificiale. Dopo una riunione a porte chiuse al Campidoglio a settembre, Hinton ha dichiarato ai giornalisti che i legislatori potrebbero avere appena un anno per istituire misure di salvaguardia prima che l’IA superi ampiamente il controllo umano.

Hinton e altri ricercatori senior di OpenAI, Anthropic e Microsoft hanno avvertito in un articolo pubblicato all’inizio di ottobre che sistemi di IA in grado di automatizzare il proprio sviluppo potrebbero innescare una “esplosione dell’intelligenza”, condensando anni di progressi in pochi mesi o meno. Hanno esortato i governi a istituire controlli prima che si verifichino tali livelli di rapida evoluzione dell’IA.

I regolatori sembrano ancora incerti e divisi su quanto controllo l’IA abbia realmente bisogno in questo momento. L’alto funzionario europeo per la tecnologia Henna Virkkunen ha dichiarato a Reuters il 9 ottobre che l’AI Act dell’Unione europea già fornisce adeguate tutele contro sistemi di IA incontrollabili. Due giorni dopo, anche l’amministrazione Trump ha revocato le restrizioni per i laboratori statunitensi di IA nel fornire modelli all’AI Security Institute del Regno Unito per qualsiasi forma di test preliminare sulla sicurezza.