La sicurezza sarà uno dei punti principali dell'agenda del Summit sull'intelligenza artificiale di Seul

I governi della Corea del Sud e del Regno Unito esorteranno le aziende tecnologiche ad affrontare la questione della supervisione della sicurezza dell'intelligenza artificiale durante il vertice internazionale sull'intelligenza artificiale di questa settimana.

Questo incontro fa seguito al primo vertice globale sulla sicurezza dell'IA tenutosi lo scorso anno a Bletchley Park, in Gran Bretagna, dove diversi governi hanno espresso preoccupazione per i rischi dell'IA. Erano presenti anche aziende di IA, poiché la tecnologia su cui stanno lavorando presenta tali rischi.

Tra i numerosi tentativi internazionali di creare barriere di protezione per la tecnologia in rapido sviluppo che ha il potenziale di rivoluzionare molti aspetti della società, il vertice di Seul ha acceso preoccupazioni sui rischi emergenti per la vita quotidiana. 

“Nonostante siano stati compiuti sforzi positivi per dare forma alla governance globale dell’IA, permangono ancora lacune significative”

Il vertice del Regno Unito di novembre ha riunito ricercatori, funzionari governativi, dirigenti del settore tecnologico e rappresentanti di organizzazioni della società civile, molti dei quali avevano opinioni divergenti sull'intelligenza artificiale. Gli incontri si sono svolti a porte chiuse a Bletchley. Oltre a politici come il Primo Ministro britannico Rishi Sunak, gli amministratori delegati di OpenAI Sam Altman e Tesla, hanno partecipato anche Elon Musk e molti altri.

La sicurezza sarà una priorità al vertice sull'intelligenza artificiale

La sicurezza sarà ancora una volta una priorità assoluta al Summit sull'intelligenza artificiale di Seul, che inizierà martedì. I governi del Regno Unito e della Corea del Sud ospiteranno congiuntamente l'incontro, che si terrà il 21 e 22 maggio.

Importanti aziende di intelligenza artificiale, come Microsoft, Anthropic, Google DeepMind, OpenAI, il creatore di ChatGPT, e Mistral, una startup francese di intelligenza artificiale, invieranno i loro rappresentanti.

sudcoreanodent Yoon Suk Yeol hanno scritto un articolo congiunto, pubblicato lunedì su iNews. Riconoscendo il potenziale di questa tecnologia, hanno espresso la loro volontà di garantire la sicurezza, affermando:

“Insieme siamo determinati a sfruttare il potenziale di questa tecnologia per trasformare il mondo in meglio.”

Hanno inoltre sottolineato che, così come le nuove tecnologie comportano nuovi rischi, anche l'intelligenza artificiale ha fatto lo stesso. Hanno sottolineato l'abuso dell'intelligenza artificiale da parte di soggetti disonesti che vogliono deliberatamente sfruttarla per compiere illeciti.

Di recente, OpenAI ha sciolto il suo team per la sicurezza, denominato Superalignment team, quando il suo co-fondatore Ilya Sutskever e altri dipendenti chiave hanno lasciato l'azienda. La decisione è stata presa dall'azienda leader mondiale nel settore dell'intelligenza artificiale, pochi giorni prima del vertice di Seul, il cui obiettivo è mitigare i rischi dell'intelligenza artificiale.

Leggi anche: La cooperazione internazionale sollecitata ad affrontare i rischi dell'intelligenza artificiale al vertice di Bletchley Park

Un altro aspetto interessante è che Anthropic ha pubblicato oggi il suo rapporto sulle politiche di ridimensionamento responsabile, che, secondo l'azienda, ha mostrato buoni risultati. Tuttavia, non possiamo confermare questi risultati. Pur non essendo in grado di commentare nessuno di questi sviluppi, essi offrono comunque spunti di riflessione.

L'innovazione deve continuare

Dopo la rapida ascesa di ChatGPT, avvenuta poco dopo il suo lancio nel 2022, le aziende tecnologiche di tutto il mondo hanno iniziato a investire miliardi di dollari nello sviluppo dei loro modelli di intelligenza artificiale generativa. Sunak e Yeol hanno sottolineato la rapida innovazione, con il lancio di nuovi modelli di intelligenza artificiale ogni giorno. Hanno affermato:

“Il governo può promuovere questa innovazione investendo miliardi, promuovendo la ricerca all'avanguardia nelle nostre università di fama mondiale e assicurandosi di non regolamentare eccessivamente le start-up che potrebbero produrre la prossima grande idea”

I sostenitori dei modelli di intelligenza artificiale generativa hanno salutato la tecnologia come una svolta che migliorerà la vita delle persone e le aziende in tutto il mondo, poiché è in grado di produrre testo, fotografie, musica e persino video in risposta a semplici segnali.

Alcuni di questi prodotti che hanno attirato l'attenzione del pubblico hanno intrinsecamente dei pregiudizi, il che è motivo di preoccupazione. 

Leggi anche: Lavorare con l'IA è essenziale, affermano gli esperti di IA al Global Leadership Forum della Fidic.

E non si tratta solo di questo; la tecnologia alla base di questi prodotti, chiamata Large Language Model (LLM), è diventata anche la tecnologia di base di molte soluzioni in diversi settori. Dai veicoli a guida autonoma alle soluzioni mediche, molte si affidano all'intelligenza artificiale generativa LLM per funzionare.

Ci sono ancora voci preoccupanti

Numerose persone hanno chiesto linee guida internazionali per controllare lo sviluppo e l'applicazione dell'intelligenza artificiale. Ad esempio, un movimento con sede a New York chiamato Ban the Scan chiede di bloccare l'uso del riconoscimento facciale a livello governativo e privato. 

Sostengono che queste tecnologie interferiscono con la libertà personale e hanno un alto tasso di falsi positivi. Una paginatronFrontier Foundation recita:

"Il riconoscimento facciale rappresenta una minaccia per la privacy, la giustizia razziale, la libertà di espressione e la sicurezza informatica. Il riconoscimento facciale in tutte le sue forme, inclusa la scansione facciale e tracin tempo reale, rappresenta una minaccia per le libertà civili e la privacy individuale."

Non sono gli unici. I difensori dei diritti umani, i governi e i critici hanno messo in guardia dal fatto che l'IA può essere sfruttata in molti modi. Ad esempio, attori non statali possono usarla per influenzare gli elettori con notizie fittizie o immagini e video "deepfake" di funzionari eletti. Un'altra preoccupazione crescente sono le segnalazioni di stati che sostengono elementi disonesti per i propri interessi.

“Faremo anche i prossimi passi per definire gli standard globali che eviteranno una corsa al ribasso”

L'articolo del duo ha menzionato la suddetta affermazione e ha sottolineato che sarebbe utile discutere le norme internazionali per l'intelligenza artificiale in un forum più aperto. Allo stesso tempo, alcune organizzazioni sudcoreane per i diritti civili hanno criticato gli organizzatori per non aver invitato un numero sufficiente di paesi in via di sviluppo.

Questa settimana, la Francia ospiterà anche la conferenza "Viva Technology", sponsorizzata da LVMH, il più grande gruppo del lusso al mondo. Nell'ultimo anno, la Francia ha cercato ditracstartup di intelligenza artificiale per posizionarsi come campione europeo di intelligenza artificiale.

Reportage Cryptopolitan di Aamir Sheikh