Il responsabile ONU per i diritti umani, Türk, avverte che l'intelligenza artificiale avanzata potrebbe minacciare l'umanità e insiste sull'adozione di "linee rosse"

L'Alto Commissario delle Nazioni Unite per i Diritti Umani, Volker Türk, ha lanciato oggi, 7 settembre, un allarme pubblico in merito al fatto che le capacità dell'intelligenza artificiale potrebbero raggiungere un livello tale da costituire una minaccia esistenziale per l'umanità, intervenendo al Consiglio per i Diritti Umani di Ginevra.

Türk ha sollecitato i governi ad agire rapidamente per rafforzare le misure di sicurezza e limitare l'attività dei laboratori di intelligenza artificiale in prima linea nella corsa alla leadership tecnologica dei sistemi autonomi, al fine di evitare che la situazione sfugga di mano a causa del crescente numero di violazioni edentdi sicurezza.

Il problema principale per l'esecutivo delle Nazioni Unite è che i sistemi su cui si basa la tecnologia dell'intelligenza artificiale si stanno sviluppando più rapidamente di quanto i sistemi attualmente in grado di trac. Questa crescita incontrollata ha trasformato le minacce, che vanno ben oltre la disinformazione e la perdita di posti di lavoro, in questioni esistenziali come la sicurezza, la responsabilità e la supervisione incontrollata dei sistemi altamente autonomi. 

L'Alto Commissario delle Nazioni Unite per i diritti umani chiede un'azione internazionale urgente 

Türk ha citato la ristrettezza del periodo in cui è ancora possibile verificare le capacità dell'IA come motivazione dell'urgenza con cui ha richiesto un'azione coordinata a livello internazionale. Ha inoltre sottolineato come il ritmo e la direzione del progresso in questo campo siano sproporzionatamente nelle mani di una ristretta cerchia di dirigenti e aziende del settore tecnologico. 

Türk ha proposto una soluzione ai segnali d'allarme che ha evidenziato. La sua alternativa prevede che i Paesi in cui hanno sede queste aziende leader nel campo dell'IA e quelli che controllano le catene di approvvigionamento critiche si facciano avanti e traccino delle "linee rosse" sui limiti entro cui sono disposti a permettere che la tecnologia si spinga.

L'Alto Commissario delle Nazioni Unite per i diritti umani sta riprendendo un tema affrontato dall'organismo internazionale in occasione del primo Dialogo globale sulla governance dell'IA, tenutosi nella stessa città svizzera a luglio. 

Intervenendo al vertice "AI for Good" dell'ITU, dove è nata la discussione, Türk ha affermato: "Non consideriamo gli standard di sicurezza per medicinali, automobili o aeromobili come ostacoli al progresso", secondo quanto riportato dalle Nazioni Unite. "Sono il motivo per cui le persone si fidano di queste tecnologie". La supervisione umana, ha aggiunto, "non può essere una mera formalità".

Parte delle prove che hanno alimentato il dibattito a quel vertice sono state presentate da Sonia Livingstone del Gruppo scientifico globale sull'intelligenza artificiale, istituito dalle Nazioni Unite. All'epoca, almeno un bambino per classe aveva dichiarato di essere stato vittima di deepfake a sfondo sessuale creati dall'IA, secondo uno studio condotto in 11 paesi del Sud del mondo. 

La responsabile di UN Women, Sima Bahous, ha inoltre sottolineato la disparità di genere in tutto ciò. Secondo lei, circa l'88% dei principali ricercatori nel campo dell'IA... Ha anche riferito che almeno una su quattro delle attiviste e giornaliste intervistate dalla sua agenzia ha subito abusi online facilitati dall'IA.

I laboratori di intelligenza artificiale e i legislatori si sono resi conto dei problemi

Quest'estate, le Nazioni Unite non sono le sole a lanciare l'allarme. Il senatore statunitense Bernie Sanders ha chiesto una sospensione immediata dei progetti sull'intelligenza artificiale avanzata e un divieto permanente sulla superintelligenza, mentre un gruppo interpartitico di parlamentari britannici ha spinto per l'introduzione di "interruttori di sicurezza" obbligatori per legge per l'IA, dopo quella che hanno definito una serie didentcausati da IA ​​fuori controllo. 

Queste preoccupazioni sono sorte in seguito all'affermazione di OpenAI, legata al suo modello GPT-6 Astra, secondo cui la sua tecnologia aveva raggiunto l'intelligenza artificiale generale, e all'ammissione di Anthropic che i suoi modelli "non erano perfettamente allineati" con i valori umani.

Parte di questa pressione proviene dall'interno del settore. In un saggio di giugno, ripreso da Axios, il CEO di Anthropic, Dario Amodei, ha sostenuto che i governi dovrebbero avere il potere legale di bloccare o invertire le implementazioni pericolose dell'IA e che i modelli di frontiera dovrebbero essere sottoposti a test obbligatori, proprio come le automobili, gli aerei o i nuovi farmaci. 

Nel suo aggiornamento al Consiglio, Türk ha esteso il tema al campo di battaglia, sostenendo le richieste di vietare le armi in grado di uccidere senza l'intervento umano.