Hassabis chiede agli Stati Uniti di guidare il regolatore globale dell'IA entro la fine dell'anno

Demis Hassabis, cofondatore e CEO di Google DeepMind, vuole che il governo degli Stati Uniti istituisca un nuovo organismo di vigilanza incaricato di scremare i modelli di IA più potenti del mondo. L'organismo avrà anche il potere di ordinare al settore di rallentare se il pericolo aumenta.

Ha dettagliato questo nel suo manifesto, pubblicato il 14 luglio, e ha detto che vuole che l'organismo sia operativo entro la fine dell'anno.

Hassabis è una delle voci più influenti nello spazio dell'IA. Ha condiviso il Premio Nobel per la Chimica 2024 per il suo lavoro sul ripiegamento delle proteine e dirige il laboratorio dietro Gemini.

In un'intervista, ha affermato che il settore ha raggiunto il punto in cui la supervisione dell'IA deve essere sistematica, finanziata dagli stessi laboratori, gestita da esperti tecnici e responsabile verso il governo degli Stati Uniti.

Cosa farà il regolatore dell'IA degli Stati Uniti?

Hassabis sta modellando l'organismo sulla FINRA, il regolatore privato finanziato dal settore che vigila sui broker di Wall Street sotto l'autorità della Securities and Exchange Commission.

Nel suo piano, i laboratori all'avanguardia consegnerebbero prima i loro modelli volontariamente, fino a 30 giorni prima del rilascio, in modo che l'organismo potesse testarli per pericolose capacità di cybersecurity, biologiche e di "inganno".

Ha dichiarato che una volta che tali test si dimostreranno affidabili, le regole formali «potrebbero seguire rapidamente», il che significa che un modello dovrebbe superare i test prima di poter essere lanciato sul mercato statunitense.

Gli standard si applicheranno a ogni sistema di livello frontier, e Hassabis ha aggiunto che «indipendentemente dal loro paese di origine o dal fatto che siano aperti o chiusi», con i benchmark aggiornati man mano che la tecnologia avanza.

Vuole inoltre che il consiglio sia composto per la maggioranza da membri indipendenti, con vincitori del Premio Turing e altri ricercatori accreditati, insieme a seggi riservati all'industria, al governo e agli sviluppatori open-source. Ha affermato che l'etichetta «frontier» diventerebbe un marchio di status, aggiungendo: «Penso che sia un'attività piuttosto bella, di prestigio».

Perché Hassabis chiede ora un organismo di vigilanza sull'IA?

Hassabis afferma che gli attuali attacchi informatici guidati dall'IA sono «spari di avvertimento». Secondo lui, entro 18 mesi rischi biologici e nucleari più gravi potrebbero trovarsi all'interno di modelli open-source che nessun governo può ritirare. Ha aggiunto che la minaccia non è limitata ai sistemi aperti e che i futuri modelli proprietari dei laboratori stessi comporteranno gli stessi pericoli.

Ha detto di voler rendere operativo l'organismo di vigilanza entro pochi mesi e ha trascorso le ultime settimane a briefare l'amministrazione Trump, i leader dei laboratori rivali e i funzionari europei prima di andare pubblico. «Le voci che ho sentito sono molto positive», ha detto riguardo ai colloqui con la Casa Bianca.

Quell'amministrazione aveva favorito un approccio non interventista fino al mese scorso, quando ha posto i modelli Mythos e Fable di Anthropic sotto un ordine di controllo delle esportazioni, limitandone l'accesso. L'ordine è stato successivamente revocato, con Anthropic che ha rilasciato i modelli con controlli più rigorosi.

OpenAI, d'altra parte, ha accettato di limitare GPT-5.6 ai partner verificati dal governo , prima di rilasciarlo pubblicamente la scorsa settimana dopo i test con il Dipartimento del Commercio, una mossa vista come un tentativo di evitare lo stesso esito di Anthropic.

Hassabis dice che l'incidente è «un po' un campanello d'allarme».

Un raro punto di accordo

L'CEO di Anthropic, Dario Amodei, è anche dell'opinione che dovrebbe esserci un'agenzia con il potere di frenare i modelli di IA insicuri, chiedendo regole vincolanti e un'agenzia di stile FAA.

La posizione di Amodei è in accordo con quella di Hassabis; tuttavia, quest'ultimo favorisce la struttura più leggera e gestita dall'industria FINRA.

È degno di nota il fatto che Hassabis ritenga che le puntate stiano salendo rapidamente. Ha affermato che l'AGI, un sistema che corrisponde all'intera gamma di capacità cognitive umane, è «probabilmente a pochi brevi anni di distanza», e in un evento a Stanford ha collocato l'arrivo vicino al 2030, «più o meno un anno». Nel manifesto, ha scritto che i ricercatori hanno «trovato un modo per far pensare la sabbia», definendolo «miracoloso».