Il Regno Unito sollecita un consenso globale sulla definizione del "danno catastrofico" dell'IA al Vertice sulla Sicurezza dell'IA

In un passo rivoluzionario, il Primo Ministro britannico Rishi Sunak sta guidando un'iniziativa per classificare l'intelligenza artificiale come capace di "danni catastrofici" in vista del prossimo vertice sulla sicurezza dell'IA ospitato dal Regno Unito. Il summit, previsto per il mese prossimo a Bletchley Park, mira a stabilire una posizione globale unitaria sui rischi posti dalla tecnologia IA in rapida evoluzione. La bozza della dichiarazione finale, diffusa tra i partecipanti e ottenuta da Bloomberg, delinea preoccupazioni specifiche riguardo all'impatto dell'IA sulla cybersecurity e sulla biotecnologia. Mentre la comunità internazionale affronta le opportunità transformative offerte dall'IA, Sunak cerca di posizionare il Regno Unito come leader nella definizione degli approcci normativi e nell'istituzione di "guardrail" industriali.

Preoccupazioni e misure di salvaguardia

Al centro dell'iniziativa del Regno Unito vi è il riconoscimento del potenziale di "danni significativi, persino catastrofici" derivanti dalle capacità più pericolose dei modelli di intelligenza artificiale. La bozza di comunicato, datata 16 ottobre, sottolinea la necessità di una posizione internazionale congiunta sui rischi specifici per la sicurezza associati sia all'IA a scopo generale che all'IA ristretta. Rappresentanti di 28 nazioni e di un'ampia gamma di parti interessate sono pronti a deliberare per finalizzare il comunicato entro il 25 ottobre.

Il documento evidenzia la natura duale dell'IA, riconoscendone le opportunità trasformative, in particolare nei servizi pubblici come sanità, istruzione, scienza ed energia pulita. Una persona al corrente della questione afferma che questo aspetto sarà un focus prominente durante il vertice, portando luce sul potenziale positivo che l'IA detiene per il progresso sociale.

Tuttavia, la bozza sottolinea che i rischi, in particolare alla “frontiera” dello sviluppo dell'IA, richiedono metriche di valutazione chiare, strumenti di test per la sicurezza e il potenziamento delle capacità del settore pubblico. Riconoscendo la necessità di un approccio equilibrato, il vertice mira ad affrontare sia le promesse che le sfide dell'IA, assicurando che i progressi siano sfruttati in modo responsabile a beneficio dell'umanità.

Si prevede che i leader globali facciano eco all'appello per una maggiore trasparenza da parte delle aziende coinvolte nello sviluppo dell'IA. La bozza propone la creazione di metriche di valutazione chiare, strumenti di test per la sicurezza e lo sviluppo di capacità pertinenti nel settore pubblico e della ricerca scientifica. Il documento sottolinea che i rischi per la sicurezza emergono non solo dall'IA a scopo generale, ma anche da specifiche IA ristrette che potrebbero esibire capacità pericolose.

Coordinamento globale e responsabilità nelle misure di sicurezza dell'IA

Mentre il Regno Unito prende l'iniziativa, la bozza e gli altri documenti diffusi rivelano che la Commissione europea sta promuovendo un processo di collaborazione internazionale sulla sicurezza dell'IA avanzata. Il blocco europeo cerca un approccio allineato con la propria legislazione sull'IA, concentrandosi sul potenziale uso improprio negli attacchi informatici e sul rischio che i sistemi avanzati sfuggano al controllo.

I documenti evidenziano la responsabilità degli sviluppatori che lavorano su capacità di IA potenti e potenzialmente pericolose. Viene posto un forte accento sull'assicurare la sicurezza di tali capacità, con un invito rivolto ai "soggetti interessati" a fornire trasparenza e responsabilità adeguate al contesto riguardo ai piani per misurare, monitorare e mitigare i potenziali rischi. Il Regno Unito intende mantenere il momentum con riunioni di follow-up ogni sei mesi, dedicate al monitoraggio dei progressi nella gestione delle opportunità e dei rischi associati all'IA.

La bozza del comunicato sottolinea la necessità che l'IA sia progettata, sviluppata, implementata e utilizzata in modo da privilegiare il "bene comune" e allinearsi a principi di centralità umana, sicurezza, affidabilità e responsabilità. Mentre la comunità internazionale si riunisce a Bletchley Park, il mondo osserva se emergerà una posizione unitaria sulla sicurezza dell'IA, aprendo la strada a un futuro per l'IA sicuro e responsabile.