I ricercatori di IA suggeriscono una probabilità del 5% di estinzione umana a causa dell'IA avanzata

In un recente sondaggio condotto tra 2.700 ricercatori di intelligenza artificiale (IA) che hanno pubblicato lavori in sei principali conferenze di IA, è emerso che quasi il 58% dei rispondenti ritiene che ci sia una probabilità del 5% che l'IA causi l'estinzione umana o altri esiti catastrofici.

Il sondaggio ha anche esplorato le tempistiche per i traguardi tecnologici dell'IA e le loro potenziali conseguenze sociali. Nonostante l'incertezza e il disaccordo tra i ricercatori, questi risultati gettano luce sulle preoccupazioni all'interno della comunità dell'IA riguardo ai potenziali rischi associati allo sviluppo di un'IA sovrumana.

I ricercatori esprimono cautela riguardo al rischio di estinzione tramite IA

Katja Grace, autrice del sondaggio e ricercatrice presso il Machine Intelligence Research Institute in California, ha sottolineato l'importanza della credenza in un rischio non trascurabile posto dall'IA avanzata. Grace ha dichiarato: "È un segnale importante che la maggior parte dei ricercatori di IA non ritenga fortemente improbabile che l'IA avanzata distrugga l'umanità". Tuttavia, non vi è motivo di allarme immediato, secondo Émile Torres, studioso presso la Case Western Reserve University in Ohio.

Torres ha messo in guardia dal reagire eccessivamente ai sondaggi tra esperti, notando che non hanno un solido record nel prevedere accuratamente lo sviluppo dell'IA. Uno studio precedente del 2012 ha rilevato che le previsioni degli esperti di IA non erano più affidabili dell'opinione pubblica. Gli autori del sondaggio attuale hanno anche sottolineato che i ricercatori di IA potrebbero non possedere competenze specifiche nella previsione della traiettoria futura dell'IA.

Traguardi accelerati e previsioni più anticipate

Rispetto a una versione del 2022 dello stesso sondaggio, molti ricercatori di IA nell'ultima indagine hanno previsto che l'IA avrebbe raggiunto determinati traguardi prima di quanto precedentemente stimato. Queste previsioni coincidevano con il lancio di novembre 2022 di servizi di chatbot IA avanzati come ChatGPT e con il rapido dispiegamento di modelli IA simili nella Silicon Valley.

I ricercatori prevedevano una probabilità del 50% o superiore che i sistemi di IA riuscissero a completare vari compiti entro il prossimo decennio. Questi compiti includevano la creazione di brani musicali indistinguibili da quelli di artisti popolari come Taylor Swift e la codifica da zero di interi siti web di elaborazione dei pagamenti. Tuttavia, altri compiti complessi, come l'installazione fisica di cablaggi elettrici nelle case o la risoluzione di antichi misteri matematici, sarebbero stati previsti come più lunghi da completare.

La prospettiva che l'IA superi le prestazioni umane in ogni compito è stata valutata con una probabilità del 50% di verificarsi entro il 2047, mentre la possibilità che tutti i lavori umani diventino completamente automatizzabili ha ricevuto una probabilità del 50% entro il 2116. Queste stime rappresentano un'accelerazione di 13 anni e 48 anni, rispettivamente, rispetto al sondaggio dell'anno precedente.

Svolte imprevedibili dell'IA e preoccupazioni immediate

Nonostante le aspettative elevate sullo sviluppo dell'IA, Émile Torres ha espresso cautela riguardo all'imprevedibilità delle svolte tecnologiche. Torres ha notato che il campo dell'IA aveva già sperimentato periodi di riduzione dei finanziamenti e dell'interesse aziendale, definiti "inverni dell'IA", durante gli anni '70 e '80.

Inoltre, i ricercatori di IA hanno evidenziato preoccupazioni immediate, come l'uso improprio dell'IA, inclusi i deepfake, la manipolazione dell'opinione pubblica, lo sviluppo di armi ingegnerizzate, il controllo autoritario sulle popolazioni e il peggioramento della disuguaglianza economica. Torres ha anche sottolineato i potenziali pericoli dell'IA nel contribuire alla disinformazione su questioni critiche come il cambiamento climatico e la governance democratica.

Il sondaggio tra i ricercatori di intelligenza artificiale rivela un significativo livello di preoccupazione all'interno della comunità AI riguardo ai potenziali rischi associati allo sviluppo di AI avanzata. Sebbene la percentuale esatta del rischio che l'AI causi l'estinzione umana rimanga incerta, la convinzione in un rischio non trascurabile evidenzia la necessità di continuare a considerare aspetti etici e di sicurezza nello sviluppo dell'AI.

Nonostante previsioni accelerate per i traguardi dell'AI, i ricercatori riconoscono l'imprevedibilità dei progressi tecnologici ed enfatizzano le preoccupazioni immediate, come l'uso improprio dell'AI e gli impatti sociali. Man mano che l'AI continua a evolversi, ricercatori, decisori politici e la società nel suo complesso devono affrontare queste sfide in modo proattivo e responsabile.