Il Regno Unito porta il suo AI Safety Institute a San Francisco

Il governo del Regno Unito ha annunciato i piani per aprire il primo ufficio estero del suo AI Safety Institute negli Stati Uniti questa estate. 

Leggi anche: Il ruolo dell'accordo di sicurezza AI tra Regno Unito e Stati Uniti nell'evoluzione tecnologica

In una dichiarazione pubblicata lunedì, la Segretaria britannica per la Scienza e la Tecnologia Michelle Donelan ha dichiarato che il nuovo ufficio degli Stati Uniti si troverà a San Francisco. La città ospita alcune delle più grandi aziende di IA, tra cui OpenAI, Anthropic e Inflection AI.

Il Regno Unito cerca di rafforzare la partnership con gli Stati Uniti sulla sicurezza AI

L'ufficio basato negli Stati Uniti cercherà di reclutare un team di personale tecnico guidato da un Direttore della Ricerca mentre inizia le operazioni alla fine di quest'anno. La sede centrale di Londra dell'Istituto ha attualmente un team di oltre 30 membri del personale tecnico.

Il Segretario per la Tecnologia ha dichiarato che l'espansione dell'Istituto rappresenta la leadership britannica nell'IA e stabilirebbe una stretta collaborazione con il governo degli Stati Uniti. 

È un momento cruciale nella capacità del Regno Unito di studiare sia i rischi che il potenziale dell'IA da una prospettiva globale, rafforzando la nostra partnership con gli Stati Uniti e aprendo la strada ad altri paesi per attingere alla nostra esperienza mentre continuiamo a guidare il mondo sulla sicurezza dell'IA.

Michelle Donelan, Segretaria britannica per la Scienza e la Tecnologia.

Donelan dice che l'Istituto è cresciuto «da forza in forza»

Il governo del Regno Unito ha introdotto l'AI Safety Institute nel novembre 2023. Ha dichiarato che l'obiettivo era «minimizzare le sorprese per il Regno Unito e l'umanità da rapidi e inaspettati progressi nell'IA.» 

Leggi anche: Il governo del Regno Unito annuncia l'istituzione dell'AI Safety Institute

L'Istituto si concentra principalmente sulla valutazione dei sistemi IA «frontiera» dal punto di vista della sicurezza nazionale. Con questa misura, il governo del Regno Unito ha dichiarato che sarà in grado di sviluppare risposte politiche e regolamentari efficaci alle applicazioni IA deployate all'interno della sua giurisdizione.

Dal momento che il Primo Ministro e io abbiamo fondato l'AI Safety Institute, è cresciuto da forza in forza e in poco più di un anno.

Michelle Donelan, Segretaria britannica per la Scienza e la Tecnologia.

L'Istituto pubblica i risultati dei suoi test sui modelli

L'UK AI Safety Institute è reportedly la prima organizzazione sostenuta dal governo a pubblicare i risultati dei suoi test di sicurezza sui modelli IA. L'Istituto ha testato cinque modelli linguistici di grandi dimensioni pubblicamente disponibili, anche se non specifica i nomi. 

La sicurezza dell'IA è ancora un campo molto giovane e in via di sviluppo. […] La nostra ambizione è continuare a spingere la frontiera di questo campo sviluppando valutazioni all'avanguardia, con un'enfasi sui rischi legati alla sicurezza nazionale.

Ian Hogarth, Presidente dell'UK AI Safety Institute.

Ha affermato che diversi modelli hanno completato le sue sfide di sicurezza informatica. Tuttavia, si sono tutti dimostrati altamente vulnerabili ai semplici «jailbreak». Alcuni modelli hanno prodotto risultati dannosi anche quando non c'erano tentativi deliberati di aggirare le salvaguardie.

Reportage di Cryptopolitan di Ibiam Wayas