Hassabis chiede che gli Stati Uniti assumano la guida dell'organismo di regolamentazione globale dell'intelligenza artificiale entro la fine dell'anno

Demis Hassabis, cofondatore e CEO di Google DeepMind, auspica che il governo statunitense istituisca un nuovo organismo di controllo incaricato di vagliare i modelli di intelligenza artificiale più potenti al mondo. Tale organismo avrebbe anche il potere di imporre al settore di rallentare lo sviluppo di queste tecnologie qualora il pericolo dovesse aumentare.

ha spiegato dettagliatamente nel suo manifesto, pubblicato il 14 luglio, affermando di volere che l'organismo sia operativo entro la fine dell'anno.

Hassabis è una delle voci più autorevoli nel campo dell'intelligenza artificiale. Ha condiviso il Premio Nobel per la Chimica del 2024 per il suo lavoro sul ripiegamento delle proteine ​​e dirige il laboratorio che sta dietro al telescopio Gemini.

In un'intervista, ha affermato che il settore ha raggiunto un punto in cui la supervisione dell'IA deve essere sistematicamaticfinanziata dagli stessi laboratori, gestita da esperti tecnici e responsabile nei confronti del governo degli Stati Uniti.

Cosa farà l'organismo di controllo statunitense sull'intelligenza artificiale?

Hassabis sta modellando la creazione di questo organismo sul modello della FINRA, l'ente di regolamentazione privato, finanziato dal settore, che vigila sui broker di Wall Street sotto l'autorità della Securities and Exchange Commission.

Nel suo piano, i laboratori di frontiera avrebbero innanzitutto consegnato volontariamente i loro modelli, fino a 30 giorni prima del rilascio, in modo che l'organismo potesse testarli per individuare eventuali pericolose capacità informatiche, biologiche e di "inganno".

Ha affermato che, una volta dimostrata l'affidabilità dei test, le norme formali "potrebbero seguire rapidamente", il che significa che un modello dovrebbe superare i test prima di poter essere immesso sul mercato statunitense.

Gli standard si applicherebbero a tutti i sistemi di classe frontiera, e Hassabis ha aggiunto che ciò avverrebbe "indipendentemente dal paese di origine o dal fatto che siano aperti o chiusi", con i parametri di riferimento aggiornati man mano che la tecnologia progredisce.

Desidera inoltre che il consiglio di amministrazione sia a maggioranzadent, composto da vincitori del Premio Turing e altri ricercatori di altodent, con rappresentanti dell'industria, del governo e degli sviluppatori open source. Ha affermato che l'etichetta di "frontiera" diventerebbe un segno distintivo, aggiungendo: "Penso che sia un bel vantaggio, un vero e proprio segno di prestigio"

Perché Hassabi chiede proprio ora un organismo di controllo sull'IA?

Hassabis afferma che gli attacchi informatici odierni basati sull'intelligenza artificiale sono "segnali d'allarme". Secondo lui, entro 18 mesi, rischi biologici e nucleari ancora più gravi potrebbero annidarsi all'interno di modelli open source che nessun governo sarà in grado di rimuovere. Ha aggiunto che la minaccia non si limita ai sistemi aperti e che anche i futuri modelli proprietari dei laboratori comporteranno gli stessi pericoli.

Ha affermato di voler rendere operativo l'organismo di controllo entro pochi mesi e di aver trascorso le ultime settimane a informare l'amministrazione Trump, i responsabili di laboratori rivali e i funzionari europei prima di rendere pubblica la notizia. "Le informazioni che ho ricevuto sono molto positive", ha dichiarato in merito ai colloqui con la Casa Bianca.

Fino al mese scorso, tale amministrazione aveva privilegiato un approccio non interventista, quando ha imposto un divieto di esportazione, limitandone l'accesso. Il divieto è stato successivamente revocato e Anthropic ha rilasciato i modelli con maggiori restrizioni.

OpenAI, d'altro canto, ha accettato di limitare GPT-5.6 ai partner approvati dal governo prima di rilasciarlo pubblicamente la scorsa settimana, dopo averlo testato con il Dipartimento del Commercio, una mossa che è stata vista come un tentativo di evitare lo stesso esito di Anthropic.

Hassabis afferma che l'dent è "una sorta di campanello d'allarme"

Un raro punto di accordo

Anche Dario Amodei, CEO di Anthropic, ritiene che dovrebbe esistere un'agenzia con il potere di regolamentare i modelli di intelligenza artificiale non sicuri, auspicando norme vincolanti e un'agenzia simile alla FAA.

La posizione di Amodei coincide con quella di Hassabis; tuttavia, quest'ultimo predilige una struttura FINRA più snella e gestita dal settore.

È interessante notare la convinzione di Hassabis che la posta in gioco stia aumentando rapidamente. Ha affermato che l'AGI, un sistema in grado di eguagliare l'intera gamma delle capacità cognitive umane, è "probabilmente a pochi anni di distanza" e, in occasione di un evento a Stanford, ha stimato il suo arrivo intorno al 2030, "con un margine di errore di un anno". Nel manifesto, ha scritto che i ricercatori hanno "trovato un modo per far pensare la sabbia", definendolo "miracoloso"