I media statunitensi e le figure tecnologiche chiedono di fermare lo sviluppo dell'IA superintelligente

Una coalizione di personaggi dei media di destra negli Stati Uniti, scienziati e leader tecnologici sta chiedendo un divieto globale sullo sviluppo dell'intelligenza artificiale superintelligente (AI) finché la scienza non garantisce che possa essere controllata in modo sicuro, in tandem con il sostegno del pubblico.

Secondo un rapporto di mercoledì di Reuters, l'appello coordinato dal Future of Life Institute (FLI) è stato annunciato attraverso una dichiarazione congiunta firmata da oltre 850 figure pubbliche. 

Il documento chiede ai governi e alle aziende di IA di sospendere tutti i lavori sulla superintelligenza, i sistemi di IA che supposibilmente superano le capacità cognitive umane, finché non vengono imposti meccanismi di sicurezza approvati pubblicamente.

Gli alleati convergono per fermare lo sviluppo dell'IA superintelligente 

Il I firmatari della coalizione sono guidati da membri dei media di destra come Steve Bannon e Glenn Beck, insieme ai principali ricercatori di IA Geoffrey Hinton e Yoshua Bengio. Altre figure includono il fondatore del Virgin Group Richard Branson, il cofondatore di Apple Steve Wozniak e ex funzionari militari e politici degli Stati Uniti. 

L'elenco include anche l'ex presidente dello Stato Maggiore Congiunto Mike Mullen, l'ex Consigliere per la Sicurezza Nazionale Susan Rice, il Duca e la Duchessa di Sussex, il Principe Harry e Meghan Markle, con l'ex Presidente dell'Irlanda Mary Robinson.

Il rinomato informatico Yoshua Bengio ha parlato delle paure della coalizione in una dichiarazione sul sito web dell'iniziativa, affermando che i sistemi di IA potrebbero presto superare la maggior parte degli umani nei compiti cognitivi. Bengio ha ribadito che la tecnologia potrebbe aiutare a risolvere i problemi globali, ma presenta pericoli immensi se sviluppata in modo avventato.

“Per avanzare in modo sicuro verso la superintelligenza, dobbiamo determinare scientificamente come progettare sistemi di IA fondamentalmente incapaci di fare del male alle persone, sia attraverso un'allineamento errato che un uso malevolo”, ha detto. “Dobbiamo anche assicurarci che il pubblico abbia una voce molto più forte nelle decisioni che modelleranno il nostro futuro collettivo.”

Il Future of Life Institute, un'organizzazione non profit fondata nel 2014 con il sostegno iniziale di Tesla CEO Elon Musk e investitore tecnologico Jaan Tallinn, è anche tra i gruppi che fanno campagna per una governance responsabile dell'IA. 

L'organizzazione avverte che la corsa per costruire l'IA superintelligente o la superintelligenza artificiale (ASI) potrebbe creare rischi irreversibili per l'umanità se non adeguatamente regolamentata.

Nella sua ultima dichiarazione, il gruppo ha notato che la superintelligenza potrebbe portare a “obsolescenza economica umana, disempowerment, perdita di libertà, libertà civili, dignità e controllo, minacce alla sicurezza nazionale e persino la potenziale estinzione dell'umanità.”

Il FLI chiede ai decisori politici di vietare completamente la ricerca e lo sviluppo della superintelligenza finché non esiste “un forte sostegno pubblico” e “un consenso scientifico sul fatto che tali sistemi possano essere costruiti e controllati in modo sicuro.”

Il settore tecnologico diviso sullo sviluppo dell'IA

I giganti della tecnologia stanno ancora cercando di spingere i confini delle capacità dell'IA, anche se alcuni gruppi si oppongono a come ha influenzato i posti di lavoro e lo sviluppo dei prodotti. xAI di Elon Musk, OpenAI di Sam Altman e Meta sono tutti in gara per sviluppare potenti modelli linguistici di grandi dimensioni (LLM). 

A luglio, il CEO di Meta Mark Zuckerberg ha dichiarato durante una conferenza che lo sviluppo di sistemi superintelligenti era “ormai alla portata”. Tuttavia, alcuni esperti di IA sostengono che il CEO di Meta stia usando tattiche di marketing per spaventare i concorrenti su come la sua azienda sia “in vantaggio” in un settore che si prevede vedrà centinaia di miliardi di dollari nei prossimi anni.

Il Il governo degli Stati Uniti e l'industria tecnologica hanno resistito alle richieste di moratorie, sostenendo che le paure di un “apocalisse dell'IA” sono vehementemente esagerate. I critici di una pausa nello sviluppo dicono che soffocherebbe l'innovazione, rallenterebbe la crescita economica e i potenziali benefici che l'IA potrebbe portare alla medicina, alla scienza del clima e all'automazione.

Tuttavia, secondo un sondaggio nazionale commissionato dal FLI, il pubblico americano è in gran parte favorevole a un controllo più rigoroso. L'indagine su 2.000 adulti ha rivelato che tre quarti degli intervistati supportano una maggiore regolamentazione dell'IA avanzata e sei su dieci credono che l'IA superumana non dovrebbe essere sviluppata finché non è dimostrato che è controllabile. 

Prima di diventare CEO di OpenAI, Sam Altman aveva avvertito in un post del blog del 2015 che “l'intelligenza artificiale superumana è probabilmente la maggiore minaccia per la continuazione dell'esistenza dell'umanità.”

Allo stesso modo, Elon Musk, che ha contemporaneamente finanziato e combattuto contro l'avanzamento dell'IA, ha detto all'inizio di quest'anno in il podcast di Joe Rogan che c'era “solo il 20% di probabilità di annientamento” dall'IA che supera l'intelligenza umana.