Il capo dell'intelligenza artificiale di Microsoft promette di interrompere lo sviluppo se la tecnologia rappresenta un rischio esistenziale

Mustafa Suleyman, responsabile dell'intelligenza artificiale per i consumatori di Microsoft, ha dichiarato che interromperà del tutto lo sviluppo se l'intelligenza artificiale avanzata dovesse mai minacciare la sicurezza umana.

Intervenendo al programma The Mishal Husain Show di Bloomberg, Mustafa ha dichiarato che l'obiettivo di Microsoft è quello di creare una super intelligenza allineata agli interessi umani, non di inseguire il potere bruto a ogni costo.

"Non continueremo a sviluppare un sistema che ha il potenziale per sfuggirci", ha dichiarato Mustafa durante l'intervista. Ha aggiunto che questa posizione non dovrebbe essere controversa, definendola ovvia, anche se ritiene che sia ancora rara nel settore dell'intelligenza artificiale.

Microsoft riacquista la libertà di costruire sistemi di intelligenza artificiale avanzati

Mustafa è entrato in Microsoft all'inizio dell'anno scorso, dopo che l'azienda ha acquisito la proprietà intellettuale e gran parte del team dietro la sua startup, Inflection AI, dopo aver abbandonato OpenAI per strumenti di intelligenza artificiale rivolti ai consumatori.

Dopo l'acquisizione, a Mustafa fu affidato il compito di realizzare prodotti in grado di competere direttamente con i modelli piùtrongià presenti sul mercato.

Per gran parte di quel periodo, il suo lavoro ha incontrato dei limiti. I terminitraclegati alla partnership di Microsoft con OpenAI hanno impedito all'azienda di sviluppare un'intelligenza artificiale generale, deficome sistemi in grado di funzionare a livello umano, così come una superintelligenza, che avrebbe superato le capacità umane.

Mustafa ha affermato che Microsoft ha rinunciato a tali diritti in cambio dell'accesso agli ultimi modelli di OpenAI. Tale accordo prevedeva anche la costruzione e l'allestimento di data center per OpenAI da parte di Microsoft per diversi anni.

Tale struttura è cambiata a ottobre. Un nuovo accordo ha rimodellato il rapporto e ha restituito i diritti di sviluppo a Microsoft.

Mustafa ha affermato che OpenAI ha ora accordi infrastrutturali con altri partner, tra cui SoftBank e Oracle, per costruire più data center di quanti Microsoft fosse disposta a impegnarsi. "Ora hanno accordi con SoftBank e molti altri – Oracle – per costruire più data center di quanti Microsoft volesse costruire per loro", ha affermato. "E quindi, in cambio, abbiamo il diritto di sviluppare la nostra IA".

Ha affermato che negli ultimi 18 mesi Microsoft è rimasta uno sviluppatore di intelligenza artificiale generico, ma ora si sta spostando verso un lavoro che potrebbe superare le prestazioni umane in tutti i compiti.

"Negli ultimi 18 mesi siamo rimasti un'azienda di sviluppo di intelligenza artificiale a carattere generale, ma ora possiamo lavorare su tecniche e metodologie che hanno il potenziale per superare le prestazioni umane in tutti i compiti", ha affermato. "Quindi, per noi si tratta di un cambiamento."

Suleyman delinea un approccio cauto poiché gli strumenti restano incompiuti

Il mese scorso, Mustafa aveva annunciato formalmente l'iniziativa di superintelligenza in un post sul blog, in cui esponeva la posizione di Microsoft secondo cui tali sistemi devono essere progettati per essere al servizio delle persone. Altri importanti attori, tra cui OpenAI e Anthropic PBC, spesso fanno affermazioni simili sulla sicurezza e sul beneficio per l'uomo.

"Ognuno deve decidere cosa rappresenta e come opera, e non voglio giudicare come stanno operando in questo momento", ha affermato. "Non vedo alcuna prova di danni di massa su larga scala".

Nonostante l'attenzione a lungo termine sulla superintelligenza, Mustafa ha affermato che il dibattito attuale rimane accademico.

I consumatori si aspettano assistenti in grado di gestire attività come la prenotazione di biglietti o l'organizzazione di programmi di shopping. I dirigenti si aspettano un aumento della produttività. Nessuno dei due gruppi ha ancora raggiunto il traguardo.

Mustafa ha citato come prova l'assistente per i consumatori Copilot di Microsoft. Ha affermato che le sue funzionalità simili a quelle di un agente sono ancora in fase di test e non sempre funzionano come previsto.

"Stiamo ancora sperimentando", ha detto Mustafa. "Ma quando funziona, è la cosa più magica che abbiate mai visto."