La campagna per spingere i governi a concordare limiti internazionali vincolanti per limitare l'abuso della tecnologia dell'intelligenza artificiale è stata intensificata a livello delle Nazioni Unite, poiché oltre 200 importanti politici, scienziati e opinion leader, tra cui 10 premi Nobel, hanno lanciato un avvertimento sui rischi di questa tecnologia.
La dichiarazione, pubblicata lunedì in apertura della Settimana di Alto Livello dell'Assemblea Generale delle Nazioni Unite, è stata denominata "Appello Globale per le Linee Rosse dell'IA". Sostiene che "l'attuale traiettoria dell'IA presenta pericoli senzadent" e chiede ai Paesi di lavorare per un accordo internazionale su restrizioni chiare e verificabili entro la fine del 2026.
I vincitori del premio Nobel guidano l'appello all'ONU
L'appello è stato lanciato dalla giornalista e premio Nobel per la pace Maria Ressa, che nel suo discorso di apertura ha esortato i governi a "prevenire rischi universalmente inaccettabili" e deficosa non dovrebbe mai essere consentito all'intelligenza artificiale di fare.
Tra i firmatari della dichiarazione figurano premi Nobel per la chimica, l'economia, la pace e la fisica, oltre ad autori celebri come Stephen Fry e Yuval Noah Harari. Hanno prestato i loro nomi anche l'exdent irlandese Mary Robinson e l'exdent colombiano Juan Manuel Santos, anch'egli premio Nobel per la pace.
Hanno firmato la dichiarazione anche Geoffrey Hinton e Yoshua Bengio, noti come i "padrini dell'intelligenza artificiale" e vincitori del premio Turing, considerato il premio Nobel per l'informatica.
"Questo è un punto di svolta", ha affermato Harari. "Gli esseri umani devono concordare su linee rosse chiare per l'intelligenza artificiale prima che la tecnologia rimodelli la società oltre la nostra comprensione e distrugga le fondamenta della nostra umanità".
In passato, i tentativi di lanciare l'allarme sull'intelligenza artificiale si sono spesso concentrati su impegni volontari da parte di aziende e governi. Nel marzo 2023, oltre 1.000 leader del settore tecnologico, tra cui Elon Musk, hanno chiesto una pausa nello sviluppo di sistemi di intelligenza artificiale potenti. Pochi mesi dopo, dirigenti di aziende del settore come Sam Altman di OpenAI e di Google DeepMind hanno firmato una breve dichiarazione in cui paragonavano i rischi esistenziali dell'IA a quelli di una guerra nucleare e di una pandemia.
L'intelligenza artificiale alimenta i timori sui rischi esistenziali e sociali
Proprio la scorsa settimana, l'intelligenza artificiale è stata coinvolta in casi che spaziano dal suicidio di un adolescente alle segnalazioni del suo utilizzo per manipolare il dibattito pubblico.
I firmatari dell'appello sostengono che questi rischi immediati potrebbero presto essere eclissati da minacce più grandi. I commentatori hanno avvertito che i sistemi di intelligenza artificiale avanzati potrebbero portare a disoccupazione di massa, pandemie ingegnerizzate o sistematichematic dei diritti umani se non controllati.
Tra gli elementi presenti nell'elenco degli embarghi figurano il divieto di armi autonome letali, il divieto di sistemi di intelligenza artificiale autoreplicanti e la garanzia che l'intelligenza artificiale non venga mai impiegata in una guerra nucleare.
"È nel nostro vitale interesse comune impedire che l'intelligenza artificiale infligga danni gravi e potenzialmente irreversibili all'umanità, e dovremmo agire di conseguenza", ha affermato Ahmet Üzümcü, ex direttore generale dell'Organizzazione per la proibizione delle armi chimiche, che ha vinto il premio Nobel per la pace nel 2013 sotto la sua guida.
Oltre 60 organizzazioni della società civile hanno firmato la lettera, tra cui il think tank Demos con sede nel Regno Unito e il Beijing Institute of AI Safety and Governance. L'iniziativa è coordinata da tre organizzazioni no-profit: il Center for Human-Compatible AI dell'Università della California, Berkeley; The Future Society; e il French Center for AI Safety.
Nonostante i recenti impegni in materia di sicurezza da parte di aziende come OpenAI e Anthropic, che hanno accettato di sottoporre i modelli a test governativi prima del rilascio, la ricerca suggerisce che le aziende stanno rispettando solo circa la metà dei loro impegni.
"Non possiamo permetterci di aspettare", ha affermato Ressa. "Dobbiamo agire prima che l'intelligenza artificiale progredisca oltre la nostra capacità di controllarla".
