L'ex CEO di Google Eric Schmidt mette in guardia contro un “Progetto Manhattan” per lo sviluppo dell'IA

In un documento politico pubblicato mercoledì, l'ex CEO di Google Eric Schmidt ha avvertito che gli Stati Uniti non dovrebbero spingere per un progetto di tipo Manhattan per lo sviluppo di sistemi di intelligenza artificiale. 

Il documento “Strategia per la Superintelligenza” menzionava che un'offerta aggressiva per ottenere il controllo di sistemi di intelligenza artificiale superintelligente potrebbe provocare ritorsioni da parte di paesi come la Cina. Tali ritorsioni potrebbero assumere la forma di cyberattacchi, impattando direttamente sulle relazioni internazionali.

Il documento politico è stato co-autorato dal CEO di Scale AI Alexandr Wang e dal Direttore del Center for AI Safety, Dan Hendricks. I co-autori hanno scritto: “[Un] Progetto Manhattan [per l'AGI] presuppone che i rivali si sottomettano a un squilibrio duraturo o all'omnicidio piuttosto che muoversi per prevenirlo.” 

Gli autori hanno aggiunto: “Ciò che inizia come una spinta verso una superarma e il controllo globale rischia di provocare contromisure ostili ed escalare le tensioni, minando così la stessa stabilità che la strategia pretende di garantire.”

Questo documento è arrivato solo pochi mesi dopo che la Commissione del Congresso degli Stati Uniti aveva proposto un sistema di finanziamento “di tipo Manhattan” per sviluppare l'intelligenza artificiale generale. Il progetto è modellato sugli sforzi degli Stati Uniti per sviluppare la bomba atomica negli anni '40. 

Christ Wright, Segretario all'Energia degli Stati Uniti, ha dichiarato che gli Stati Uniti stanno per avviare un “nuovo Progetto Manhattan” sull'intelligenza artificiale. Ha affermato: “Con la leadership del Presidente Trump, gli Stati Uniti vinceranno la corsa globale all'IA, ma prima dobbiamo sbloccare la nostra dominazione energetica e ripristinare la competitività americana.”

Diversi leader del settore americano e decisori politici hanno suggerito che perseguire un programma sostenuto dal governo per lo sviluppo dell'IA sia il modo migliore per competere con paesi come la Cina. Tuttavia, il documento sulla Strategia per la Superintelligenza mette in discussione questa idea. 

Eric Schmidt lo definisce distruzione mutua assicurata 

L'autore ha sostenuto che, proprio come le potenze globali evitano i monopoli sulle armi nucleari (perché potrebbero innescare ritorsioni sotto forma di sabotaggio preventivo), gli Stati Uniti dovrebbero fare attenzione a cercare di dominare con potenti sistemi di intelligenza artificiale.

Eric Schmidt ha parlato di un concetto chiamato MAIM (mutual assured AI malfunction, o malfunzionamento dell'IA assicurato reciprocamente). Si riferisce ai governi di altri paesi che cercano attivamente di disabilitare le minacce basate sull'IA invece di aspettare che l'AGI venga armata contro di loro. 

Gli autori hanno sostenuto che, invece di concentrarsi sulla “vittoria nella corsa alla superintelligenza”, gli Stati Uniti dovrebbero sviluppare metodi per dissuadere altri dalla creazione di tali sistemi. Hanno anche aggiunto che gli Stati Uniti dovrebbero “ampliare [il] proprio arsenale di cyberattacchi per disabilitare i progetti di IA minacciosi.”

Tuttavia, l'amministrazione Trump sembra determinata a spingere gli Stati Uniti in avanti nella corsa all'IA. Schmidt, tuttavia, sostiene che sia saggio considerare un approccio difensivo mentre il mondo osserva gli Stati Uniti spingere l'IA ai suoi limiti.