L'IA avanzata potrebbe creare nuovi rischi estremi, affermano esperti in un rapporto pubblicato prima del vertice sull'IA

Un recente Rapporto Scientifico Internazionale sulla Sicurezza dell'IA Avanzata dimostra che l'IA avanzata potrebbe essere calamitosa e lasciare dietro di sé un sentiero di dolore e sofferenza per gli esseri umani.

Secondo l'AP, si tratta del primo rapporto internazionale di questo tipo, pubblicato mercoledì in vista del vertice sull'IA a Parigi nel febbraio prossimo, che cataloga i rischi posti dalla tecnologia in rapida crescita.

I paesi sostengono il Rapporto Scientifico Internazionale

Il rapporto dettaglia alcuni dei pericoli che potrebbero sorgere a causa dell'IA avanzata, tra cui la facilitazione del terrorismo e la perdita diffusa di posti di lavoro. Questo è già stato sperimentato, specialmente nel settore tecnologico, dove migliaia di posti di lavoro sono stati eliminati mentre le aziende automatizzano grazie all'IA.

Secondo AP, il rapporto gode del sostegno di 30 paesi, inclusi Stati Uniti e Cina, un caso raro in cui le due maggiori economie mondiali collaborano. I due paesi si sono spesso scontrati nella corsa alla supremazia nell'IA. Questa settimana, la startup cinese DeepSeek ha sconvolto il mondo con il suo chatbot a basso costo, nonostante gli Stati Uniti abbiano imposto severi controlli all'esportazione verso la Cina.

Lo studio è stato guidato dal prominente scienziato dell'IA Yoshua Bengio ed è una fusione di studi già esistenti volti a guidare le autorità nell'elaborazione di linee guida per questa tecnologia in rapida crescita.

«Le poste in gioco sono alti», afferma il rapporto, sottolineando che solo pochi anni fa i sistemi di IA faticavano a produrre un paragrafo coerente. Tuttavia, grazie ai recenti sviluppi, l'IA è ora in grado di generare immagini realistiche, scrivere codice di programmazione e intrattenere conversazioni estese con gli utenti.

Secondo i ricercatori, i pericoli legati all'IA avanzata si stanno già manifestando lentamente, come la disinformazione e la desinformazione, i deepfake, le truffe e i pregiudizi.

«Dobbiamo comprendere meglio i sistemi che stiamo costruendo e i rischi ad essi associati, al fine di prendere decisioni più consapevoli in futuro.»

Bengio.

Questo avviene «mentre l'IA a scopo generale diventa sempre più capace, emergono gradualmente evidenze di ulteriori rischi», secondo il rapporto.

Questo avviene anche durante la stessa settimana in cui il Vaticano ha lanciato un avvertimento contro questa tecnologia insieme al gruppo dietro l'Orologio dell'Apocalisse. Il rapporto si concentra sull'IA a scopo generale, tipificata da modelli come ChatGPT di OpenAI.

Il rapporto ha classificato i rischi dell'IA avanzata

Il Rapporto Scientifico Internazionale raggruppa i rischi in tre categorie: uso malevolo, malfunzionamenti e rischi «sistemici» diffusi. I ricercatori hanno esaminato quanto sia facile per l'IA imparare a utilizzare armi chimiche o biologiche, rappresentando così un enorme pericolo per l'umanità.

Inoltre, il rapporto osserva che l'intelligenza artificiale a scopo generale può trasformare anche il mercato del lavoro, sostituendo alcuni dipendenti, sebbene altri ricercatori concordino sul fatto che l'IA potrebbe creare più posti di lavoro di quanti ne elimini.

Il rapporto ha espresso inoltre preoccupazioni riguardo ai sistemi di IA che potrebbero sfuggire al controllo per due possibili motivi: il primo è che essi minano il controllo umano o che gli esseri umani prestano meno attenzione.

Bengio ha rivelato che i 100 esperti riuniti per il rapporto non sono sempre stati d'accordo su cosa aspettarsi dall'IA in futuro. Una delle divergenze riguardava il momento in cui l'IA supererà le capacità umane in diversi compiti.

«Anche sugli scenari non sono d'accordo», ha detto Bengio.

«Certo, nessuno ha una sfera di cristallo. Alcuni scenari sono molto benefici, altri terrificanti. Credo sia davvero importante che i decisori politici e il pubblico prendano atto di questa incertezza.»

Bengio.

Il rapporto, sostenuto da diversi paesi, gode anche dell'appoggio dell'Unione Europea. Arriva nel momento in cui si prevede che leader mondiali, leader tecnologici, esperti e la società civile si riuniscano nuovamente al Paris AI Action Summit. I paesi firmeranno una «dichiarazione comune» sullo sviluppo dell'IA.