OpenAI sollecita un quadro globale per la sicurezza dell'IA mentre le tensioni USA-Cina si attenuano

OpenAI afferma che l'IA necessita della stessa regolamentazione dell'energia nucleare e vuole che gli Stati Uniti avvino la creazione di un regolatore globale per gestirla. 

Come riportato da Cryptopolitan, questo avviene mentre il presidente Trump si reca a Pechino per la prima visita di stato USA-Cina in nove anni, durante la quale la politica sull'IA era prevista all'ordine del giorno.

Secondo Chris Lehane, vicepresidente degli affari globali di OpenAI, il fatto che Trump e Xi siano nella stessa stanza è un'opportunità rara per le due nazioni di costruire qualcosa di duraturo per l'IA.

“L'IA, a un certo livello, trascende molte delle questioni commerciali prevalenti o tradizionali. C'è l'opportunità di iniziare davvero a costruire qualcosa a livello globale e far sì che i paesi di tutto il mondo, inclusa la Cina, potenzialmente partecipino,” ha detto Chris Lehane durante un briefing.

Cos'è OpenAI e perché la sua opinione sulla politica globale è così importante?

OpenAI è l'azienda americana che ha sviluppato ChatGPT, un popolare assistente IA/chatbot utilizzato da centinaia di milioni di persone ogni giorno.

L'azienda ha sempre partecipato a ogni grande dibattito sui sistemi IA potenti. Il suo CEO, Sam Altman, si incontra solitamente con i capi di stato per discutere di IA e depone persino davanti al Congresso, conferendo all'azienda una significativa influenza sulla politica globale dell'IA.

OpenAI è anche in una causa legale separata dopo che il CEO di Tesla Elon Musk ha citato in giudizio l'azienda nel 2024. Musk è uno dei fondatori originali di OpenAI e afferma che Sam Altman e altri dirigenti hanno agito contro la missione non profit dell'azienda, trasformandola in un'organizzazione a scopo di lucro. 

Il processo è ancora in corso, ma la storia più grande di questa settimana sta avvenendo a Pechino.

Cosa ha proposto OpenAI e qual è il confronto con l'IAEA?

Il Vicepresidente degli Affari Globali di OpenA, Chris Lehane, ha proposto di collegare due cose per creare qualcosa di nuovo.

Vuole che il Centro per gli Standard e l'Innovazione dell'IA del Dipartimento del Commercio degli Stati Uniti e gli istituti di sicurezza dell'IA si uniscano per costruire una rete globale. Ha usato l' Agenzia Internazionale per l'Energia Atomica (IAEA) come esempio di come i paesi abbiano collegato i loro regolatori nucleari in un unico organismo generale. 

Il Centro per gli Standard e l'Innovazione dell'IA del Dipartimento del Commercio degli Stati Uniti è un ufficio governativo che crea standard tecnici per i sistemi IA. 

Allo stesso tempo, i paesi stanno istituendo istituti IA in tutto il mondo. Ad esempio, il Regno Unito ne ha uno, l'UE sta sviluppando quadri normativi e diversi governi asiatici stanno lavorando su organismi simili. 

Lehane ha affermato che un organismo unificato per l'IA aiuterà a costruire sistemi più sicuri e resilienti, meno suscettibili agli attacchi. Vuole anche che il governo degli Stati Uniti renda obbligatorio per i ricercatori del paese testare i modelli IA più potenti prima di distribuirli. 

Cos'è il modello Mythos e perché agita sia Washington che Pechino?

Mythos è un nuovo e potente modello IA che ha trovato “migliaia” di vulnerabilità maggiori nei sistemi operativi e in altri software. Anthropic (l'azienda di sicurezza IA sostenuta da Google e Amazon) ha sviluppato Mythos.

La scala di ciò che Mythos può fare ha scioccato il mondo mentre banche e governi si affrettavano a riparare le loro difese di sicurezza dopo l'annuncio. Funzionari della Casa Bianca hanno persino riconosciuto che modelli come Mythos hanno reso la comunicazione con la Cina più importante che mai. 

La Cina è stata esclusa dall'accesso anticipato a una anteprima di Mythos, sollevando preoccupazioni sulla capacità degli sviluppatori e del governo del paese di difendersi dagli attacchi che utilizzano il modello IA. 

L'azienda di intelligence di mercato IDC China ha persino avvertito che escludere la Cina da Mythos potrebbe creare un “divario generazionale” nelle capacità di difesa dell'IA tra la Cina e l'Occidente. 

Secondo ricercatori, gli attaccanti potrebbero utilizzare un'IA avanzata per progettare bioweapon, innescare shock finanziari o agire autonomamente senza controllo umano. La parte più spaventosa è che l'IA ha solo bisogno di essere potente, veloce e indirizzata nella direzione sbagliata per fare tutte queste cose. 

Cosa è successo all'incontro Trump-Xi e di cosa hanno discusso?

La delegazione USA in Cina includeva il CEO di Nvidia Jensen Huang e il principale consigliere per la politica tecnologica della Casa Bianca Michael Kratsios. La loro presenza nel viaggio ha reso l'incontro una priorità e una questione urgente, poiché entrambe le parti si sono presentate pronte a discutere direttamente le questioni sull'IA. 

La Cina ha proposto un dialogo formale sulle questioni dell'IA, guidato dal Segretario al Tesoro Scott Bessent e dal Vice Ministro delle Finanze cinese Liao Min. Ma le aspettative per questo canale sono basse perché nessuna delle due agenzie è specializzata in IA.

Gli Stati Uniti avevano anche previsto di sollevare preoccupazioni sul fatto che gli sviluppatori cinesi stessero utilizzando output da modelli IA avanzati per costruire sistemi a un frazione del costo, ma con meno protezioni di sicurezza.

Entrambe le parti hanno anche discusso la possibilità di stabilire una linea diretta senza colpe per segnalare incidenti sospetti guidati dall'IA, simile alle linee dirette militari.

Gli analisti hanno persino suggerito che entrambi i governi potrebbero impegnarsi a rispettare i limiti per i modelli IA di frontiera, simili all'accordo USA-Cina del 2015 sulla Cybersecurity.

Infine, le discussioni potrebbero anche toccare il MATCH Act, una proposta di legge statunitense che mira a limitare l'accesso della Cina alle catene di approvvigionamento di semiconduttori. 

Sun Chenghao dell'Università di Tsinghua ha partecipato ai colloqui USA-Cina sull'IA e ha affermato che gli Stati Uniti dovrebbero tracciare una linea chiara tra la gestione dei rischi di sicurezza dell'IA e il semplice tentativo di bloccare lo sviluppo tecnologico della Cina. 

“La Cina probabilmente spera che gli Stati Uniti distinguano appropriatamente tra governance dell'IA e contenimento tecnologico,” ha detto Sun Chenghao.