L'ex CEO di Google Eric Schmidt mette in guardia contro un "progetto in stile Manhattan" per lo sviluppo dell'intelligenza artificiale

In un documento politico pubblicato mercoledì, l'ex CEO di Google Eric Schmidt ha avvertito che gli Stati Uniti non dovrebbero spingere per un progetto in stile Manhattan per lo sviluppo di sistemi di intelligenza artificiale. 

Il documento "Strategia per la superintelligenza" menzionava che un'aggressiva strategia di gara per ottenere il controllo di sistemi di intelligenza artificiale superintelligenti potrebbe provocare ritorsioni da parte di paesi come la Cina. Tali ritorsioni potrebbero assumere la forma di attacchi informatici, con un impatto diretto sulle relazioni internazionali. 

Il documento programmatico è stato redatto congiuntamente dal CEO di Scale AI, Alexandr Wang, e dal Direttore del Center for AI Safety, Dan Hendricks. I coautori hanno scritto: "Un Progetto Manhattan [per l'intelligenza artificiale globale] presuppone che i rivali acconsentiranno a uno squilibrio duraturo o a un omicide piuttosto che agire per prevenirlo" 

Gli autori hanno inoltre aggiunto: "Ciò che inizia come una spinta verso una superarma e un controllo globale rischia di provocare contromisure ostili e un'escalation delle tensioni, minando così la stabilità stessa che la strategia si propone di garantire"

Questo documento è stato pubblicato solo pochi mesi dopo che la Commissione del Congresso degli Stati Uniti aveva proposto un programma di finanziamento "stile Manhattan" per sviluppare l'intelligenza artificiale generale. Il progetto è modellato sugli sforzi statunitensi per sviluppare la bomba atomica negli anni '40. 

Christ Wright, Segretario all'Energia degli Stati Uniti, ha affermato che gli USA stanno per avviare un "nuovo Progetto Manhattan" sull'intelligenza artificiale. Ha dichiarato: "Con la leadership del Presidentedent , gli Stati Uniti vinceranno la corsa globale all'IA, ma prima dobbiamo liberare il nostro dominio energetico e ripristinare la competitività americana".

Diversi leader industriali e politici americani hanno suggerito che perseguire un programma governativo per lo sviluppo dell'intelligenza artificiale sia il modo migliore per competere con paesi come la Cina. Tuttavia, il documento sulla strategia per la superintelligenza contesta questa idea. 

Eric Schmidt si riferisce a questo come distruzione reciproca assicurata 

L'autore ha sostenuto che, proprio come le potenze globali evitano i monopoli sulle armi nucleari (perché possono innescare ritorsioni sotto forma di sabotaggio preventivo), gli Stati Uniti dovrebbero stare attenti a cercare di dominare con potenti sistemi di intelligenza artificiale.

Eric Schmidt ha parlato di un concetto chiamato MAIM (Mutual Assured AI Malfunzionamento). Si riferisce ai governi di altri Paesi che cercano attivamente di neutralizzare le minacce basate sull'IA invece di aspettare che l'IA venga utilizzata come arma contro di loro. 

Gli autori hanno sostenuto che, invece di concentrarsi sul "vincere la corsa alla superintelligenza", gli Stati Uniti dovrebbero sviluppare metodi per dissuadere altri dal creare tali sistemi. Hanno anche aggiunto che gli Stati Uniti dovrebbero "ampliare il [proprio] arsenale di attacchi informatici per neutralizzare i progetti di intelligenza artificiale più minacciosi"

Tuttavia, l'amministrazione Trump sembra irremovibile nel voler spingere gli Stati Uniti nella corsa all'intelligenza artificiale. Schmidt, tuttavia, sostiene che sia saggio considerare un approccio difensivo, mentre il mondo osserva gli Stati Uniti spingere l'intelligenza artificiale al limite.