Il capo dell'IA di Microsoft promette un arresto dello sviluppo se la tecnologia pone rischi esistenziali

Mustafa Suleyman, capo dell'intelligenza artificiale consumer di Microsoft, dice che fermerà lo sviluppo completamente se l'IA avanzata minacciasse mai la sicurezza umana.

Parlando al The Mishal Husain Show di Bloomberg, Mustafa ha giurato che il focus di Microsoft è costruire un'intelligenza super allineata con gli interessi umani, non inseguire il potere grezzo a qualsiasi costo.

"Non continueremo a sviluppare un sistema che ha il potenziale di sfuggirci", ha detto Mustafa durante l'intervista. Ha aggiunto che questa posizione non dovrebbe essere controversa, definendola una posizione ovvia, anche se crede che sia ancora rara nell'industria dell'IA.

Microsoft recupera la libertà di costruire sistemi di IA avanzata

Mustafa si è unito a Microsoft all'inizio dello scorso anno dopo che la società ha acquisito la proprietà intellettuale e gran parte del team dietro la sua startup, Inflection AI, dopo aver abbandonato OpenAI per gli strumenti di IA rivolti ai consumatori.

Dopo l'acquisizione, a Mustafa è stato chiesto di costruire prodotti che potessero competere direttamente con i modelli più forti già sul mercato.

Per gran parte di quel tempo, il suo lavoro è venuto con limiti. I termini contrattuali legati alla partnership di Microsoft con OpenAI bloccavano la società dallo sviluppare intelligenza artificiale generale, definita come sistemi che possono eseguire a livello umano, nonché superintelligenza, che supererebbe le capacità umane.

Mustafa ha detto che Microsoft ha rinunciato a quei diritti in cambio dell'accesso ai modelli più recenti di OpenAI. Quel accordo comportava anche che Microsoft costruisse e attrezzasse data center per OpenAI nel corso di diversi anni.

Quella struttura è cambiata a ottobre. Un nuovo accordo ha rimodellato la relazione e ha restituito i diritti di sviluppo a Microsoft.

Mustafa ha detto che OpenAI ora ha accordi infrastrutturali con altri partner, tra cui SoftBank e Oracle, per costruire più data center di quanti Microsoft fosse disposta a impegnarsi. "Ora hanno accordi con SoftBank e molti altri – Oracle – per costruire più data center di quanti Microsoft volesse costruire per loro", ha detto. "E quindi, in cambio, abbiamo poi il diritto di sviluppare la nostra stessa IA."

Ha detto che Microsoft è rimasta uno sviluppatore di IA a scopo generale negli ultimi 18 mesi ma ora si sta muovendo verso lavori che potrebbero superare le prestazioni umane in tutti i compiti.

"Siamo stati un'azienda di sviluppo di IA a scopo generale per gli ultimi 18 mesi, ma ora possiamo lavorare su alcune tecniche e metodologie che hanno il potenziale di superare le prestazioni umane in tutti i compiti", ha detto Mustafa . "E quindi, è un cambiamento per noi."

Suleyman delinea un approccio cauto mentre gli strumenti rimangono incompleti

Lo scorso mese, Mustafa aveva annunciato formalmente lo sforzo di superintelligenza in un post sul blog che delineava la posizione di Microsoft secondo cui tali sistemi devono essere progettati per servire le persone. Altri grandi attori, tra cui OpenAI e Anthropic PBC, spesso fanno affermazioni simili sulla sicurezza e sul beneficio umano.

"Tutti devono decidere per cosa stanno e come operano, e non voglio giudicare come stanno operando in questo momento", ha detto. "Non vedo alcuna evidenza di danni di massa su larga scala."

Nonostante l'attenzione a lungo termine sulla superintelligenza, Mustafa ha detto che il dibattito attuale rimane accademico.

I consumatori si aspettano assistenti che possono gestire compiti come la prenotazione di biglietti o l'organizzazione dei piani di shopping. I dirigenti si aspettano guadagni di produttività. Nessun gruppo è ancora completamente lì.

Mustafa ha indicato l'assistente consumer Copilot di Microsoft come prova. Ha detto che le sue funzionalità simili a un agente sono ancora in fase di test e non sempre si comportano come previsto.

"Stiamo ancora sperimentando con esso", ha detto Mustafa. "Ma quando funziona, è la cosa più magica che tu abbia mai visto."