Il capo dei diritti umani delle Nazioni Unite Türk avverte che l'IA avanzata potrebbe minacciare l'umanità, sollecitando la definizione di “linee rosse”
Foto di UN Trade and Development (UNCTAD) su Flickr.
- Il capo dei diritti umani delle Nazioni Unite, Volker Türk, ha avvertito che un'IA sempre più potente potrebbe rappresentare un rischio esistenziale.
- Türk ha chiesto ai governi di concordare 'linee rosse' vincolanti prima che la tecnologia superi il controllo umano.
- L'ONU vuole trasformare l'allarme volontario in regole internazionali vincolanti.
Il Alto Commissario delle Nazioni Unite (ONU) per i Diritti Umani, Volker Türk, ha avvertito pubblicamente delle capacità dell'intelligenza artificiale che crescono fino a diventare una minaccia esistenziale per l'umanità presso il Consiglio per i Diritti Umani a Ginevra, oggi 7 settembre.
Türk ha esortato i governi a muoversi rapidamente per costruire protezioni e limitare i laboratori di IA all'avanguardia nella corsa alla tecnologia dei sistemi autonomi, impedendo che sfuggano al controllo in mezzo a violazioni e incidenti di sicurezza in aumento.
Il problema più grande per l'esecutivo delle Nazioni Unite è che i sistemi con cui la tecnologia dell'IA cresce più velocemente di quanto i sistemi attuali che la governano possano tenere il passo. Questa crescita incontrollata ha ora escalated le minacce oltre la disinformazione e la perdita di posti di lavoro, entrando in aree esistenziali come la sicurezza, la responsabilità e il controllo non supervisionato per sistemi altamente autonomi.
Il capo dei diritti umani delle Nazioni Unite chiede un'azione internazionale urgente
Türk ha citato una finestra di chiusura in cui le capacità dell'IA possono ancora essere controllate come base per l'urgenza del suo appello a un'azione coordinata a livello internazionale. Ha anche messo in luce come il ritmo e la direzione dei progressi del campo siano sproporzionatamente nelle mani di un piccolo cerchio di dirigenti e aziende tecnologiche.
Türk ha proposto una soluzione alle bandiere rosse che ha evidenziato. La sua alternativa è che i paesi in cui si trovano queste principali aziende di IA e quelli che controllano le catene di approvvigionamento critiche si impegnino a tracciare “linee rosse” su quanto siano disposti a permettere che la tecnologia vada oltre.
L'Alto Commissario delle Nazioni Unite per i Diritti Umani sta riprendendo un argomento che l'organo internazionale ha affrontato al primo Dialogo Globale sulla Governance dell'IA nella stessa città svizzera nel luglio scorso.
Parlando al summit ITU AI for Good, dove è iniziata la conversazione, Türk ha detto: “Non consideriamo gli standard di sicurezza per medicine, auto o aerei come ostacoli al progresso”, secondo i filmati delle Nazioni Unite. “Sono la ragione per cui le persone si fidano di quelle tecnologie fin dall'inizio.” Il controllo umano, ha aggiunto, “non può essere solo un timbro a secco.”
Parte delle evidenze che hanno guidato la conversazione a quel summit è stata presentata da Sonia Livingstone del Pannello Scientifico Globale sulle Nazioni Unite per l'IA. A quel tempo, almeno un bambino per aula ha dichiarato di essere stato soggetto a deepfake sessualmente espliciti generati dall'IA in uno studio che ha coperto 11 paesi del Global South.
La capo di UN Women, Sima Bahous, ha anche evidenziato il pregiudizio di genere di tutto ciò. Secondo lei, circa l'88% dei principali ricercatori di IA. Ha anche riferito che almeno una donna su quattro tra le attiviste e le giornaliste intervistate dalla sua agenzia ha subito abusi online assistiti dall'IA.
I laboratori di IA e i legislatori si sono svegliati ai problemi
Le Nazioni Unite non sono le uniche a suonare l'allarme questa estate. Il senatore statunitense Bernie Sanders ha chiesto una pausa immediata sul lavoro di IA avanzata e un divieto permanente sulla superintelligenza, mentre un gruppo bipartisan di parlamentari britannici ha spinto per l'obbligo legale di “interruttori di emergenza” per l'IA dopo quello che hanno descritto come una serie di incidenti di IA fuori controllo.
Quelle ansie sono seguite alla dichiarazione di OpenAI, legata al suo modello GPT-6 Astra, che la sua tecnologia avesse raggiunto l'intelligenza generale artificiale, e alla confessione di Anthropic che i suoi stessi modelli non erano “perfettamente allineati” con i valori umani.
Una parte di quella pressione proviene dall'interno del settore. In un saggio di giugno coperto da Axios, l'CEO di Anthropic Dario Amodei ha sostenuto che i governi dovrebbero avere il potere legale di bloccare o invertire i deploy pericolosi di IA, e che i modelli all'avanguardia dovrebbero essere sottoposti a test obbligatori proprio come auto, aerei o nuovi farmaci.
Nel suo aggiornamento al Consiglio, Türk ha esteso il tema al campo di battaglia, sostenendo le chiamate a proibire le armi che possono uccidere senza un essere umano nel loop.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Domande frequenti
Di cosa ha esattamente avvertito Volker Türk?
Türk, Alto Commissario delle Nazioni Unite per i Diritti Umani, ha avvertito che un'IA sempre più potente potrebbe alla fine costituire una minaccia esistenziale per l'umanità e ha richiesto misure di salvaguardia urgenti prima che le sue capacità sfuggano al controllo umano efficace.
Quali sono le 'linee rosse' proposte da Türk?
Ha sostenuto che i paesi che ospitano le principali aziende di IA e quelli che controllano le catene di approvvigionamento critiche dovrebbero concordare limiti chiari, o 'linee rosse', per lo sviluppo dell'IA, con l'obiettivo di frenare la concentrazione del potere dell'IA nelle mani di un piccolo numero di dirigenti e aziende.
Come si collega questo all'iniziativa più ampia dell'ONU sull'IA?
Segue il primo Dialogo Globale sulla Governance dell'IA tenutosi a Ginevra nel luglio scorso, dove gli esperti hanno segnalato crescenti prove di danni legati all'IA, e l'ONU sta ora spingendo per regole internazionali armonizzate, con un secondo dialogo previsto a New York il prossimo maggio.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.
