L'ex CEO di Google Schmidt esorta a "staccare" i sistemi di intelligenza artificiale in determinate capacità

L'ex CEO di Google Eric Schmidt ha avvertito gli sviluppatori di intelligenza artificiale di tenere sotto controllo il loro limite di sviluppo. Ha anche sottolineato l'importanza che gli Stati Uniti vincano l'attuale corsa all'intelligenza artificiale (IA) contro la Cina.

" di ABC News This Week with George Stephanopoulos , Schmidt ha messo in guardia sulla possibilità che i sistemi di intelligenza artificiale operino in modo indipendentedentaddirittura si migliorino da soli. 

"Presto saremo in grado di avere computer che funzionano in autonomia, decidendo cosa vogliono fare", ha affermato Schmidt.

Schmidt: l'intelligenza artificiale non dovrebbe essere lasciata senza controllo

Schmidt ha ribadito i rischi di uno sviluppo incontrollato dell'intelligenza artificiale avanzata, sottolineando che i sistemi in grado di auto-migliorarsi rappresentano un pericolo significativo. 

"Quando un sistema è in grado di auto-migliorarsi, dobbiamo seriamente pensare di scollegarlo", ha affermato l'ex CEO di Google.

Quando Stephanopoulos chiese a Schmidt se tali sistemi di intelligenza artificiale potessero contrastare i tentativi di bloccarli, Schmidt rispose: "Beh, in teoria, sarebbe meglio avere qualcuno che tenga sotto controllo la situazione, metaforicamente"

Mentre rischi esistenziali dell'intelligenza artificiale crescono 

Jennings sostiene che, sebbene l'intelligenza artificiale possa eccellere in compiti specifici, creare sistemi dotati di intelligenza simile a quella umana in diversi ambiti resta ben al di là delle attuali capacità degli scienziati.

"Sviluppare un'intelligenza artificiale in grado di svolgere un singolo compito in modo eccellente è possibile", ha spiegato Jennings. "Ma costruire un'intelligenza artificiale generale che replichi l'intelligenza umana in più ambiti non è qualcosa che possiamo aspettarci nel prossimo futuro."

Opinioni divergenti sulle minacce dell'IA

Nel frattempo, persistono preoccupazioni tra i principali ricercatori di intelligenza artificiale, che mettono in guardia dai pericoli posti da obiettivi mal defie misure di sicurezza inadeguate. Il professore Stuart Russell dell'Università della California a Berkeley e il ricercatore post-dottorato Michael Cohen sostengono che i potenti sistemi di intelligenza artificiale potrebbero in ultima analisi rappresentare una minaccia esistenziale per l'umanità se lasciati incontrollati.

In un articolo di approfondimento pubblicato su Science Journal, Russell e Cohen hanno chiesto una supervisione più rigorosa dello sviluppo dell'IA. Hanno sottolineato la necessità che le aziende tecnologiche dimostrino la sicurezza dei loro sistemi di IA prima di immetterli sul mercato. Senza obiettivi chiari e solide misure di sicurezza, i sistemi di IA avanzati potrebbero agire contro gli interessi umani, sostengono.

"Se gli obiettivi di queste intelligenze artificiali entrano in conflitto con quelli degli esseri umani, potrebbe essere un disastro", hanno scritto Russell e Cohen. Ritengono che le aziende tecnologiche debbano essere ritenute responsabili di garantire la sicurezza dei propri sistemi e didentle "linee rosse" critiche che l'IA non dovrebbe mai oltrepassare.

Un dibattito crescente sulla sicurezza dell'IA

Il rapido progresso dell'intelligenza artificiale ha già presentato sfide, tra cui la diffusione di disinformazione, la polarizzazione sociale e i pregiudizi algoritmici. Le preoccupazioni relative alla sicurezza e alla regolamentazione non hanno ancora tenuto il passo con lo sviluppo della tecnologia.

Le osservazioni di Schmidt riflettono la crescente urgenza, tra i leader del settore, di affrontare queste sfide. Esperti come Elon Musk chiedono da tempo una regolamentazione preventiva per mitigare i rischi legati all'intelligenza artificiale. 

Musk, che una volta ha descritto l'intelligenza artificiale come "il rischio più grande che la nostra civiltà si trova ad affrontare", ha avvertito che le autorità hanno fatto ben poco per contrastarne i pericoli. Allo stesso modo, il fisico Stephen Hawking temeva che il raggiungimento della singolarità, il punto in cui le macchine superano l'intelligenza umana, potesse rendere l'umanità incapace di controllare i sistemi di intelligenza artificiale avanzati. 

Nella sua intervista, Hawking ha sostenuto che senza regolamentazioni, l'intelligenza artificiale potrebbe diventare "la cosa migliore o la peggiore che possa capitare all'umanità"

Si intensifica la competizione tra Stati Uniti e Cina sull'intelligenza artificiale

Schmidt ha osservato che, sebbene in precedenza gli Stati Uniti avessero un vantaggio sulla Cina nello sviluppo dell'intelligenza artificiale, il divario si è ridotto significativamente negli ultimi sei mesi. "La Cina ha recuperato terreno in modo straordinario", ha affermato, descrivendo la situazione attuale come una corsa ad alto rischio tra le due superpotenze.

"Arriverà un momento, forse entro uno o due anni, in cui i sistemi potranno iniziare a condurre le proprie ricerche. Si chiameranno scienziati IA, a differenza degli scienziati umani. Quindi si passerà da 1.000 scienziati umani a un milione di scienziati IA. Credo che questo aumenti la velocità di accelerazione e, a questo ritmo, è molto difficile per i concorrenti recuperare terreno", ha osservato.

Schmidt ritiene che la nuova amministrazione Trump darà priorità alla competitività degli Stati Uniti nel campo dell'intelligenza artificiale, il che, a suo avviso, rappresenta un passo positivo. "Finché i valori umani saranno preservati", ha affermato, "dovremmo stare tranquilli".