I dipendenti affermano che OpenAI e Google DeepMind nascondono i rischi dell'IA 

Diversi dipendenti attuali ed ex di OpenAI e Google DeepMind hanno accusato le loro aziende di nascondere i rischi dell'IA che potrebbero potenzialmente innescare l'estinzione umana. In una lettera aperta, i lavoratori hanno sostenuto che le aziende di IA mettono il profitto al primo posto evitando un "efficace [governativo] controllo".

Leggi anche: OpenAI prepara il successore di GPT-4 in mezzo a preoccupazioni sulla sicurezza

La lettera aperta è stata firmata da 11 ex dipendenti di OpenAI, due di Google DeepMind, ed è stata sostenuta dal 'padre fondatore dell'IA' Geoffrey Hinton, ex Google. La lettera affermava che gli interessi di profitto e le lacune normative permettono alle aziende di coprire le minacce poste dall'intelligenza artificiale avanzata.

L'IA potrebbe portare all'"estinzione umana"

Secondo la lettera, aziende di intelligenza artificiale come OpenAI e Google DeepMind, creatore di Gemini, non hanno condiviso pubblicamente informazioni sulle insufficienti misure di sicurezza e sui livelli di rischio dei loro sistemi, poiché non sono obbligate a farlo.

Senza un controllo normativo, i programmi di IA potrebbero causare gravi danni agli esseri umani. I dipendenti hanno avvertito:

"Questi rischi vanno dal ulteriore consolidamento delle disuguaglianze esistenti… fino alla perdita di controllo dei sistemi di IA autonomi, che potrebbe potenzialmente portare all'estinzione umana."

Come hanno sottolineato i firmatari della lettera, le stesse aziende di intelligenza artificiale hanno riconosciuto questi rischi. Nel maggio 2023, i CEO di OpenAI, Anthropic e Google DeepMind hanno firmato congiuntamente una lettera aperta del Center for AI Safety. La lettera recitava semplicemente: "Mitigare il rischio di estinzione causato dall'IA dovrebbe essere una priorità globale, insieme ad altri rischi su scala societaria, come le pandemie e la guerra nucleare".

Le aziende di intelligenza artificiale sono sempre più sotto scrutinio per aver posto prodotti innovativi e profitti al di sopra della sicurezza e della protezione. ChatGPT, l'azienda sviluppatrice di OpenAI, ha preso atto delle preoccupazioni sollevate nella lettera e ha dichiarato di stare lavorando per sviluppare un'intelligenza artificiale sicura.

"Siamo orgogliosi del nostro percorso nel fornire i sistemi di IA più capaci e sicuri e crediamo nel nostro approccio scientifico per affrontare i rischi", ha dichiarato la portavoce di OpenAI, Lindsey Held, al New York Times.

"Concordiamo che un dibattito rigoroso sia cruciale data l'importanza di questa tecnologia e continueremo a interagire con governi, società civile e altre comunità in tutto il mondo."

I whistleblower temono ritorsioni

Gli ex dipendenti di OpenAI e Google hanno dichiarato di voler ricoprire un ruolo di supervisione mentre i regolatori elaborano leggi che obbligano gli sviluppatori di IA a divulgare pubblicamente maggiori informazioni sui loro programmi.

Tuttavia, gli accordi di riservatezza e la probabilità di ritorsioni da parte dei datori di lavoro scoraggiano i lavoratori dal esprimere pubblicamente le loro preoccupazioni. Secondo la lettera:

"Alcuni di noi temono ragionevolmente varie forme di ritorsione, dato lo storico di tali casi in tutto il settore. Non siamo i primi a incontrare o parlare di questi problemi."

I whistleblower sono protetti dalla legge negli Stati Uniti, ma coloro che denunciano i pericoli dell'intelligenza artificiale non sono coperti perché la tecnologia non è ancora regolamentata.

Leggi anche: ChatGPT continua a diffondere falsità, afferma l'autorità di vigilanza sui dati dell'UE

La lettera ha esortato le aziende di IA a facilitare feedback verificabilmente anonimi, sostenere una cultura della critica aperta e non ritorsi contro i whistleblower.

Il ricercatore di intelligenza artificiale Lance B. Eliot ha affermato che le aziende adottano un approccio a bastone e carota nei confronti delle critiche. I dipendenti che non si esprimono contro i rischi vengono ricompensati con promozioni e aumenti di stipendio.

D'altra parte, i whistleblower e i critici perdono le loro opzioni su azioni e possono essere costretti a lasciare l'azienda e essere silenziosamente inseriti nella lista nera dalla comunità dirigenziale dell'IA.

Reportage di Cryptopolitan di Jeffrey Gogo