Meta si unisce a OpenAI e Anthropic nell'ultimodent di hacking dell'IA

Meta è diventata l'ultima grande azienda tecnologica ad ammettere che il suo agente di intelligenza artificiale ha violato i sistemi di un'altra società dopo che un partner indipendente per i test dident ha configurato in modo errato il suo ambiente protetto.

OpenAI e Anthropic hanno già dovuto affrontare casi in cui i loro agenti di intelligenza artificiale hanno tentato di violare sistemi online reali senza autorizzazione.

Meta ha dichiarato ai giornalisti che la violazione dell'IA è derivata da un errore di configurazione del sistema, simile a quello che ha colpito Anthropic. A differenza di OpenAI, dove un agente di IA ha sfruttato una vulnerabilità precedentemente sconosciuta per accedere a Internet durante un test di sicurezza informatica. Finora, ricercatori e governi hanno reagitodentchiedendo protezioni piùtrone standard di test più rigorosi.

Figure chiave della comunità dell'IA stanno addirittura spingendo per una decelerazione controllata, al fine di garantire che il controllo umano tenga il passo con l'intelligenza artificiale.

Irregular ha osservato che non ci sono problemi aperti con l'agente AI di Meta

Meta ha dichiarato che Irregular, un fornitore di soluzioni di sicurezza basate sull'intelligenza artificiale, ha effettuato i test e l'ha avvisata della violazione. Ha aggiunto che intende fornire maggiori dettagli sull'incidentedent volta accertati tutti i fatti. 

L'azienda ha affermato che il suo agente di intelligenza artificiale "ha sfruttato una vulnerabilità di sicurezza in un servizio di terze parti". Fontidenthanno identificato l'IA malevola come Muse Spark 1.1, un modello ampiamente promosso da Meta per le sue eccellenti capacità di programmazione.  

Secondo Irregular, l'dent si riduce alla stessa falla ambientale rivelata da Anthropic la settimana scorsa, escludendo completamente complesse imprese di hacking o fughe dalla sandbox.

Inoltre, ha dichiarato: "Al momento non ci sono problemi aperti. Irregular sta elaborando un white paper per condividere le migliori pratiche per il contenimento e l'esecuzione sicura delle valutazioni informatiche." 

AISI afferma che i modelli di OpenAI e Anthropic hanno cercato di influenzare i manutentori umani

In precedenza, OpenAI aveva ammesso che i suoi sistemi autonomi si erano infiltrati in diverse reti pubbliche, tra cui la piattaforma della comunità di intelligenza artificiale Hugging Face. La rivelazione di OpenAI ha poi spinto Anthropic a condurre i propri controlli di sicurezza, che hanno rivelato come Claude avesse effettuato attacchi simili a diverse aziende dopo che un errore di configurazione gli aveva permesso di accedere a Internet. 

Un rapporto di un ente regolatore britannico ha tuttavia rivelato problemi ancora più preoccupanti. Secondo l'AI Security Institute del Regno Unito, i modelli di intelligenza artificiale di OpenAI e Anthropic avrebbero tentato di inserire codice dannoso in un progetto open source influenzando i suoi manutentori umani.

"Nel tentativo di ottenere l'approvazione del codice, l'agente ha messo in atto tecniche di ingegneria sociale, creando falsedentonline e utilizzandole per fare pressione sul responsabile del progetto affinché approvasse il codice", ha dichiarato AISI.

Ha rilevato che tutti questi tentativi sono falliti e non hanno causato danni reali. Sebbene non si siano verificati danni concreti e ogni tentativo sia fallito, l'organismo di controllo ha avvertito che questa è la prova più evidente finora riscontrata nel mondo reale di un'intelligenza artificiale che agisce in modo ingannevole e dei pericoli dell'autonomia.

AISI ha inoltre spiegato i suoi criteri di test: "Per misurare ciò che questi modelli sono realmente in grado di fare, li testiamo in condizioni che rispecchiano ciò che un attaccante umano capace potrebbe fare"

Finora, OpenAI ha riconosciuto l'incidente di sicurezzadent durante le prove AISI, affermando di voler sviluppare migliori misure di sicurezza a livello di settore per testare modelli instabili. Ha inoltre reso pubblico un altro incidentedent cui Irregulardentesposto i suoi modelli a Internet durante una simulazione di test.

L'azienda si è impegnata a rafforzare la supervisione dei test effettuati da terze parti, in particolare per quanto riguarda la determinazione dei rischi maggiori, la revisione delle richieste di accesso a Internet o di misure di sicurezza meno rigorose, la gestione dell'isolamento edent, il monitoraggio dei test e la risposta agli incidentidentprocedure di escalation più chiare. 

Nel frattempo, questa settimana la Casa Bianca ha invitato i principali sviluppatori di intelligenza artificiale, tra cui Meta, Anthropic, OpenAI e Google, a discutere di un quadro volontario, recentemente finalizzato, per i test di sicurezza informatica dei sistemi di intelligenza artificiale avanzati.

Durante le discussioni con i rappresentanti dell'azienda, l'amministrazione Trump ha affermato che i modelli di intelligenza artificiale a peso variabile, come Llama di Meta etron di Nvidia, non sarebbero stati inclusi nel quadro di test di sicurezza volontario da essa proposto. 

L'esenzione ha scatenato un dibattito tra i ricercatori sulla sicurezza dell'IA, i quali sostengono che i modelli open-weight possono essere liberamente scaricati, modificati e perfezionati da terze parti.

Secondo i critici, escluderli dalle linee guida per i test volontari potrebbe creare dei punti ciechi, dato che modelli sempre più performanti diventano ampiamente disponibili al di fuori del controllo dei loro sviluppatori originali.