I media statunitensi e i personaggi del mondo della tecnologia chiedono di fermare lo sviluppo dell'intelligenza artificiale superintelligente

Una coalizione di personalità dei media di destra, scienziati e leader tecnologici statunitensi chiede un divieto globale sullo sviluppo di un'intelligenza artificiale (IA) superintelligente finché la scienza non garantirà che possa essere controllata in modo sicuro, insieme al sostegno del pubblico.

Secondo quanto riportato mercoledì dalla Reuters, l'appello coordinato dal Future of Life Institute (FLI) è stato annunciato attraverso una dichiarazione congiunta firmata da oltre 850 personalità pubbliche. 

Il documento chiede ai governi e alle aziende di intelligenza artificiale di sospendere tutti i lavori sulla superintelligenza, sistemi di intelligenza artificiale che presumibilmente superano le capacità cognitive umane, finché non saranno imposti meccanismi di sicurezza approvati pubblicamente.

Gli alleati si uniscono per fermare lo sviluppo dell'intelligenza artificiale superintelligente 

I firmatari della coalizione sono guidati dai media di destra Steve Bannon e Glenn Beck, insieme ai principali ricercatori di intelligenza artificiale Geoffrey Hinton e Yoshua Bengio. Tra le altre figure figurano il fondatore del Virgin Group Richard Branson, il cofondatore di Apple Steve Wozniak ed ex funzionari militari e politici statunitensi. 

Nella lista figurano anche l'ex capo di stato maggiore congiunto Mike Mullen, l'ex consigliere per la sicurezza nazionale Susan Rice, il duca e la duchessa del Sussex, il principe Harry e Meghan Markle, insieme all'exdent dell'Irlanda Mary Robinson.

Il noto informatico Yoshua Bengio ha espresso i timori della coalizione in una dichiarazione sul sito web dell'iniziativa, affermando che i sistemi di intelligenza artificiale potrebbero presto superare la maggior parte degli esseri umani nelle attività cognitive. Bengio ha ribadito che la tecnologia potrebbe contribuire a risolvere i problemi globali, ma presenta immensi pericoli se sviluppata in modo sconsiderato.

"Per progredire in sicurezza verso la superintelligenza, dobbiamo determinare scientificamente come progettare sistemi di intelligenza artificiale che siano fondamentalmente incapaci di danneggiare le persone, sia attraverso disallineamenti che attraverso un uso dannoso", ha affermato. "Dobbiamo anche assicurarci che il pubblico abbia una voce moltotronnelle decisioni che daranno forma al nostro futuro collettivo"

il Future of Life Institute, un'organizzazione no-profit fondata nel 2014 con il sostegno iniziale del di Tesla Elon Musk e dell'investitore tecnologico Jaan Tallinn, è tra i gruppi che si battono per una governance responsabile dell'intelligenza artificiale. 

L'organizzazione avverte che la corsa alla creazione di un'intelligenza artificiale superintelligente (ASI) potrebbe creare rischi irreversibili per l'umanità se non adeguatamente regolamentata.

Nella sua ultima dichiarazione, il gruppo ha osservato che la superintelligenza potrebbe portare a "obsolescenza economica umana, perdita di potere, perdita di libertà, libertà civili, dignità e controllo, minacce alla sicurezza nazionale e persino alla potenziale estinzione dell'umanità"

FLI chiede ai decisori politici di vietare completamente la ricerca e lo sviluppo della superintelligenza finché non ci sarà un “tronsostegno pubblico” e un “consenso scientifico sul fatto che tali sistemi possano essere costruiti e controllati in sicurezza”

L'industria tecnologica si divide sullo sviluppo dell'intelligenza artificiale

I giganti della tecnologia stanno ancora cercando di ampliare i confini delle capacità dell'intelligenza artificiale, nonostante alcuni gruppi siano contrari al suo impatto sull'occupazione e sullo sviluppo dei prodotti. xAI di Elon Musk, OpenAI di Sam Altman e Meta sono tutti in competizione per sviluppare potenti modelli linguistici di grandi dimensioni (LLM). 

A luglio, il CEO di Meta, Mark Zuckerberg, ha dichiarato durante una conferenza che lo sviluppo di sistemi superintelligenti era "ormai in vista". Tuttavia, alcuni esperti di intelligenza artificiale sostengono che il CEO di Meta stia utilizzando tattiche di marketing per spaventare i concorrenti, facendo credere alla sua azienda che sia "avanti" in un settore che dovrebbe generare centinaia di miliardi di dollari nei prossimi anni.

Il governo statunitense e l'industria tecnologica si sono opposti alle richieste di moratoria, sostenendo che i timori di un'"apocalisse dell'IA" siano decisamente esagerati. I detrattori di una pausa nello sviluppo affermano che essa soffocherebbe l'innovazione, rallenterebbe la crescita economica e limiterebbe i potenziali benefici che l'IA potrebbe apportare alla medicina, alla scienza del clima e all'automazione.

Tuttavia, secondo un sondaggio nazionale commissionato da FLI, l'opinione pubblica americana è ampiamente favorevole a una supervisione più rigorosa. L'indagine, condotta su 2.000 adulti, ha rilevato che tre quarti deglidentsostengono una maggiore regolamentazione dell'intelligenza artificiale avanzata e sei su dieci ritengono che l'intelligenza artificiale sovrumana non dovrebbe essere sviluppata finché non ne sarà dimostrata la controllabilità. 

Prima di diventare amministratore delegato di OpenAI, Sam Altman aveva avvertito in un post sul blog del 2015 che "l'intelligenza artificiale sovrumana è probabilmente la più grande minaccia alla sopravvivenza dell'umanità"

Analogamente, Elon Musk, che ha contemporaneamente finanziato e combattuto lo sviluppo dell'IA, ha affermato all'inizio di quest'anno nel podcast di Joe Rogan che c'era "solo il 20% di possibilità di annientamento" a causa del superamento dell'intelligenza umana da parte dell'IA.