La sicurezza sarà un punto centrale all'ordine del giorno del Summit sull'IA di Seul

I governi della Corea del Sud e del Regno Unito esorteranno le aziende tecnologiche a occuparsi della supervisione della sicurezza dell'intelligenza artificiale durante il summit internazionale sull'IA di questa settimana.

Questo incontro fa seguito al primo summit globale sulla sicurezza dell'IA tenutosi lo scorso anno presso Bletchley Park nel Regno Unito, dove numerosi governi hanno espresso le loro preoccupazioni sui rischi legati all'IA. Anche le aziende di intelligenza artificiale erano presenti, poiché la tecnologia su cui stanno lavorando presenta tali rischi.

Tra i numerosi tentativi internazionali di stabilire linee guida per la tecnologia in rapida evoluzione, con il potenziale di rivoluzionare molti aspetti della società, il vertice di Seul ha suscitato preoccupazioni riguardo ai rischi emergenti per la vita quotidiana. 

“Sebbene siano stati compiuti sforzi positivi per plasmare la governance globale dell'IA, permangono significative lacune.”

Il vertice del Regno Unito di novembre ha riunito ricercatori, funzionari governativi, dirigenti tecnologici e rappresentanti di organizzazioni della società civile, molti dei quali avevano opinioni divergenti sull'intelligenza artificiale. I colloqui si sono svolti a porte chiuse a Bletchley. Oltre a politici come il Primo Ministro britannico Rishi Sunak, hanno partecipato CEO di OpenAI Sam Altman e Tesla, Elon Musk, insieme ad altri.

La sicurezza sarà una priorità al Vertice sull'IA

La sicurezza tornerà ad essere una priorità assoluta al Vertice sull'IA di Seul, che inizia martedì. Il Regno Unito e la Corea del Sud co-organizzano l'incontro il 21–22 maggio.

Aree aziende leader di IA, tra cui Microsoft, Anthropic, Google DeepMind, OpenAI creatrice di ChatGPT e Mistral, startup francese di intelligenza artificiale, sono programmate per inviare rappresentanti.

Il Primo Ministro britannico Rishi Sunak e il Presidente sudcoreano Yoon Suk Yeol hanno anche firmato un articolo congiunto, pubblicato su INews lunedì. Riconoscendo il potenziale di questa tecnologia, hanno espresso la volontà di garantire la sicurezza, affermando che

“Insieme, siamo determinati a cogliere il potenziale di questa tecnologia per trasformare il mondo in meglio.”

Hanno anche sottolineato che, proprio come le nuove tecnologie portano nuovi rischi, così fa l'IA. Hanno evidenziato l'uso improprio dell'IA da parte di attori malintenzionati che intendono deliberatamente sfruttare l'IA per commettere azioni illecite.

Poco tempo fa, OpenAI ha sciolto il suo team di sicurezza, chiamato Superalignment, quando il co-fondatore Ilya Sutskever e altri dipendenti chiave hanno lasciato l'azienda. Lo sviluppo è arrivato dalla principale azienda di IA al mondo pochi giorni prima del vertice di Seul, il cui obiettivo è mitigare i rischi dell'IA.

Leggi anche: Si invita alla cooperazione internazionale per affrontare i rischi dell'IA al Vertice di Bletchley Park

In un altro sviluppo, Anthropic ha pubblicato oggi la sua relazione sulle politiche di scalata responsabile, che, secondo l'azienda, ha dato buoni risultati. Tuttavia, non possiamo confermare tali risultati. Sebbene non siamo in grado di commentare nessuno di questi sviluppi, essi offrono spunti di riflessione.

L'innovazione deve continuare

Dopo l'ascesa meteora di ChatGPT alla popolarità poco dopo il suo lancio nel 2022, le aziende tecnologiche di tutto il mondo hanno iniziato a investire miliardi di dollari nello sviluppo dei propri modelli di intelligenza artificiale generativa. Sunak e Yeol hanno menzionato l'innovazione a ritmo serrato mentre nuovi modelli di IA vengono lanciati quotidianamente. Hanno dichiarato:

"Il governo può favorire questa innovazione investendo miliardi, potenziando la ricerca all'avanguardia nelle nostre università di livello mondiale e assicurandosi di non regolamentare eccessivamente le startup che potrebbero generare la prossima grande idea."

I sostenitori dei modelli di intelligenza artificiale generativa hanno celebrato questa tecnologia come una svolta in grado di migliorare la vita delle persone e delle imprese in tutto il mondo, poiché è in grado di produrre testi, fotografie, musica e persino video in risposta a semplici input.

Alcuni di questi prodotti che hanno attirato l'attenzione del pubblico presentano bias incorporati, motivo di preoccupazione. 

Leggi anche: Lavorare con l'IA è essenziale, affermano gli esperti di IA al Forum Globale sulla Leadership di Fidic

E non si tratta solo di questi; la tecnologia che opera dietro questi prodotti, chiamata modelli linguistici su larga scala (LLM), è diventata anche la tecnologia alla base di molte soluzioni in diversi settori. Dai veicoli a guida autonoma alle soluzioni mediche, molti si affidano agli LLM di intelligenza artificiale generativa per funzionare.

Ci sono ancora voci preoccupate

Numerose persone hanno richiesto linee guida internazionali per controllare lo sviluppo e l'applicazione dell'IA. Ad esempio, un movimento con sede a New York chiamato Ban the Scan chiede di fermare l'uso del riconoscimento facciale sia a livello governativo che privato. 

Sostengono che queste tecnologie interferiscano con la libertà personale e presentino un alto tasso di falsi positivi. Una pagina della Electronic Frontier Foundation recita:

«Il riconoscimento facciale rappresenta una minaccia per la privacy, la giustizia razziale, la libertà di espressione e la sicurezza delle informazioni. Il riconoscimento facciale in tutte le sue forme, incluso lo scanning facciale e il tracciamento in tempo reale, pone minacce alle libertà civili e alla privacy individuale.»

Non sono gli unici. Difensori dei diritti umani, governi e critici hanno avvertito che l'IA può essere abusata in molti modi. Ad esempio, attori non statali possono utilizzarla per influenzare gli elettori con notizie false o immagini e video cosiddetti "deepfake" di funzionari eletti. Un'altra preoccupazione crescente riguarda le segnalazioni secondo cui alcuni stati sostengono elementi ribelli per i propri interessi.

"Intraprenderemo anche i prossimi passi per definire gli standard globali che eviteranno una corsa al ribasso."

L'articolo del duo ha menzionato la dichiarazione sopra riportata e ha sottolineato che discutere le norme internazionali sull'IA in un forum più aperto sarebbe utile. Nel frattempo, alcune organizzazioni sudcoreane per i diritti civili hanno criticato gli organizzatori per non aver invitato abbastanza paesi in via di sviluppo.

Questa settimana si terrà anche a Parigi la conferenza "Viva Technology", sostenuta da LVMH, il più grande gruppo di lusso al mondo. Nell'ultimo anno, la Francia ha cercato di attrarre startup di IA per posizionarsi come campione europeo dell'intelligenza artificiale.

Reportage di Cryptopolitan a cura di Aamir Sheikh