Il Regno Unito porta il suo istituto per la sicurezza dell'intelligenza artificiale a San Francisco

Il governo del Regno Unito ha annunciato l'intenzione di aprire la prima sede estera del suo AI Safety Institute negli Stati Uniti questa estate. 

Leggi anche: Il ruolo dell'accordo sulla sicurezza dell'intelligenza artificiale tra Regno Unito e Stati Uniti nell'evoluzione tecnologica

In una dichiarazione pubblicata lunedì, la Segretaria britannica per la Scienza e la Tecnologia, Michelle Donelan, ha affermato che la nuova sede statunitense avrà sede a San Francisco. La città ospita alcune delle più grandi aziende di intelligenza artificiale, tra cui OpenAI, Anthropic e Inflection AI. 

Il Regno Unito punta a rafforzare la partnership con gli Stati Uniti sulla sicurezza dell'intelligenza artificiale

L'ufficio statunitense cercherà di reclutare un team di personale tecnico guidato da un Direttore della Ricerca, non appena entrerà in funzione entro la fine dell'anno. La sede centrale londinese dell'istituto conta attualmente un team di oltre 30 tecnici.

Il Segretario alla Tecnologia ha affermato che l'espansione dell'istituto rappresenta la leadership britannica nel campo dell'intelligenza artificiale e stabilirà una stretta collaborazione con il governo degli Stati Uniti. 

Si tratta di un momento cruciale nella capacità del Regno Unito di studiare sia i rischi che il potenziale dell'intelligenza artificiale da una prospettiva globale, rafforzando la nostra partnership con gli Stati Uniti e aprendo la strada ad altri Paesi affinché possano attingere alla nostra competenza mentre continuiamo a guidare il mondo in materia di sicurezza dell'intelligenza artificiale.

Michelle Donelan, Segretario per la scienza e la tecnologia del Regno Unito.

Donelan afferma che l'istituto è cresciuto "di forza in forza"

Il governo del Regno Unito ha istituito l'AI Safety Institute nel novembre 2023. L'obiettivo dichiarato era "ridurre al minimo le sorprese per il Regno Unito e l'umanità derivanti da rapidi e inaspettati progressi nell'intelligenza artificiale" 

Leggi anche: Il governo del Regno Unito annuncia la fondazione dell'AI Safety Institute

L'istituto si concentra principalmente sulla valutazione dei sistemi di intelligenza artificiale "di frontiera" dal punto di vista della sicurezza nazionale. Grazie a questa misura, il governo del Regno Unito ha affermato di essere in grado di sviluppare risposte politiche e normative efficaci alle applicazioni di intelligenza artificiale implementate nella sua giurisdizione.

Da quando il Primo Ministro e io abbiamo fondato l'AI Safety Institute, la sua crescita è stata costante e costante, nel giro di poco più di un anno.

Michelle Donelan, Segretario per la scienza e la tecnologia del Regno Unito.

L'istituto pubblica i risultati dei suoi test modello

Secondo quanto riferito, l'AI Safety Institute del Regno Unito è la prima organizzazione sostenuta dal governo a pubblicare i risultati dei suoi test di sicurezza sui modelli di intelligenza artificiale. L'istituto ha testato cinque modelli linguistici di grandi dimensioni disponibili al pubblico, senza tuttavia specificarne i nomi. 

La sicurezza dell'intelligenza artificiale è ancora un campo molto giovane ed emergente. […] La nostra ambizione è continuare a spingere i confini di questo campo sviluppando valutazioni all'avanguardia, con particolare attenzione ai rischi legati alla sicurezza nazionale.

Ian Hogarth, presidente dell'AI Safety Institute del Regno Unito.

Ha affermato che diversi modelli hanno completato le sfide di sicurezza informatica. Tuttavia, si sono tutti dimostrati altamente vulnerabili ai "jailbreak" di base. Alcuni modelli hanno prodotto risultati dannosi anche in assenza di tentativi deliberati di eludere le misure di sicurezza.

Reportage Cryptopolitan di Ibiam Wayas