L'ex CEO di Google Schmidt esorta a ‘disconnettere’ i sistemi AI a determinate capacità

L'ex CEO di Google Eric Schmidt ha avvertito gli sviluppatori di intelligenza artificiale di controllare il loro limite di sviluppo. Ha anche sottolineato l'importanza che gli Stati Uniti vincano la corsa in corso all'intelligenza artificiale (AI) contro la Cina.

Parlando nel programma ABC News This Week with George Stephanopoulos domenica, Schmidt ha messo in guardia dal potenziale dei sistemi AI di operare in modo indipendente e persino di migliorarsi da soli. 

“Presto saremo in grado di avere computer che funzionano da soli, decidendo cosa vogliono fare,” ha detto Schmidt.

Schmidt: l'AI non dovrebbe essere lasciata incustodita

Schmidt ha reiterato i rischi di un'AI avanzata che si sviluppa senza controllo, notando che i sistemi capaci di auto-miglioramento presentano un pericolo significativo. 

“Quando il sistema può auto-migliorarsi, dobbiamo pensare seriamente a disconnetterlo,” ha detto l'ex CEO di Google.

Quando Stephanopoulos ha chiesto a Schmidt se tali sistemi AI potessero contrastare gli sforzi per spegnerli, Schmidt ha risposto: “Beh, in teoria, è meglio avere qualcuno con la mano sulla spina — metaforicamente.”

Mentre le preoccupazioni riguardo ai rischi esistenziali dell'AI crescono, alcuni esperti sostengono che tali paure siano esagerate. Il professor Nick Jennings, vice-provost per la ricerca all'Imperial College London, è tra coloro che sminuiscono le previsioni apocalittiche. 

Jennings sostiene che, sebbene l'IA possa eccellere in compiti specifici, creare sistemi con un'intelligenza simile a quella umana in ambiti diversi rimane ben oltre le capacità attuali degli scienziati.

“Sviluppare un'IA che esegua un singolo compito in modo eccellente è realizzabile,” ha spiegato Jennings. “Ma costruire un'IA generale che rifletta l'intelligenza umana in più discipline non è qualcosa che possiamo aspettarci nel prossimo futuro.”

Pareri divergenti sui rischi dell'IA

Nel frattempo, persistono le preoccupazioni tra i principali ricercatori di intelligenza artificiale, che avvertono dei pericoli posti da obiettivi mal definiti e misure di sicurezza inadeguate. Il professore dell'UC Berkeley Stuart Russell e il ricercatore post-dottorato Michael Cohen sostengono che sistemi di IA potenti potrebbero rappresentare una minaccia esistenziale per l'umanità se lasciati incustoditi.

In un articolo di approfondimento pubblicato sulla rivista Science, Russell e Cohen hanno chiesto una supervisione più rigorosa dello sviluppo dell'IA. Hanno sottolineato la necessità che le aziende tecnologiche dimostrino la sicurezza dei loro sistemi di IA prima di immetterli sul mercato. Senza obiettivi chiari e solide salvaguardie, i sistemi di IA avanzati potrebbero agire contro gli interessi umani, sostengono.

“Se gli obiettivi di queste IA entrano in conflitto con quelli degli esseri umani, potrebbe trattarsi di un disastro,” hanno scritto Russell e Cohen. Ritengono che le aziende tecnologiche dovrebbero essere ritenute responsabili per garantire la sicurezza dei propri sistemi e identificare le “linee rosse” critiche che l'IA non dovrebbe mai oltrepassare.

Un dibattito in crescita sulla sicurezza dell'IA

Il rapido ritmo dei progressi nell'IA ha già presentato sfide, tra cui la diffusione di disinformazione, la polarizzazione della società e i pregiudizi algoritmici. Le preoccupazioni relative alla sicurezza e alla regolamentazione non sono ancora riuscite a tenere il passo con lo sviluppo della tecnologia.

Le dichiarazioni di Schmidt riflettono la crescente urgenza tra i leader del settore di affrontare queste sfide. Esperti come Elon Musk hanno a lungo chiesto regolamentazioni preventive per mitigare i rischi dell'IA. 

Musk, che in passato ha definito l'IA il “più grande rischio che affrontiamo come civiltà,” ha avvisato ha affermato che le autorità hanno fatto poco per affrontare i suoi pericoli. Analogamente, il fisico Stephen Hawking temeva che il raggiungimento della singolarità, il punto in cui le macchine superano l'intelligenza umana, potrebbe lasciare l'umanità incapace di controllare i sistemi di IA avanzati. 

Nella sua intervista, Hawking ha sostenuto che, senza regolamentazioni, l'IA potrebbe diventare “la cosa migliore o la peggiore che possa capitare all'umanità.”

L'intensificarsi della competizione IA tra Stati Uniti e Cina

Schmidt ha notato che, sebbene gli Stati Uniti avessero in precedenza un vantaggio rispetto alla Cina nello sviluppo dell'IA, il divario si è significativamente ridotto negli ultimi sei mesi. “La Cina ha raggiunto un livello di parità in modo notevole,” ha detto, definendo l'attuale situazione come una gara ad alto rischio tra le due superpotenze.

“C'è un punto, forse nel prossimo anno o due, in cui i sistemi possono iniziare a fare le proprie ricerche. Sono chiamati scienziati dell'IA, in contrapposizione agli scienziati umani. Quindi si passa da avere 1.000 scienziati umani a un milione di scienziati dell'IA. Credo che questo aumenti la pendenza della curva, e quando ci si muove a questo ritmo, è molto difficile per i concorrenti recuperare il distacco,” ha osservato.

Schmidt ritiene che il nuovo amministrazione Trump darà priorità alla competitività degli Stati Uniti nell'IA, un passo che lui considera positivo. “Finché i valori umani saranno preservati,” ha detto, “staremo bene.”