Meta si unisce a OpenAI e Anthropic nell'ultimo incidente di hacking AI
- L'agente AI di Meta ha hackerato un'altra azienda a causa di un errore di configurazione.
- L'azienda intende rivelare ulteriori informazioni sull'hacking.
- AISI ha rivelato nuove forme di inganno con i modelli AI di OpenAI e Anthropic.
Meta è diventata l'ultima grande azienda tecnologica ad ammettere che il suo agente AI ha hackerato un'altra azienda dopo che un partner di testing indipendente ha configurato erroneamente il suo ambiente sicuro.
OpenAI e Anthropic hanno già affrontato casi in cui i loro agenti AI hanno tentato di hackerare sistemi online reali senza autorizzazione.
Meta ha dichiarato ai giornalisti che la fuoriuscita dell'AI è derivata da una configurazione errata del sistema simile a quella di Anthropic. A differenza di OpenAI, dove un agente AI ha sfruttato una vulnerabilità precedentemente sconosciuta per accedere a Internet durante un test di cybersecurity. Finora, ricercatori e governi hanno risposto agli incidenti chiedendo protezioni più forti e standard di testing più rigorosi.
Tali incidenti si verificano mentre le aziende di AI si affrettano a creare agenti più autonomi in grado di eseguire compiti complessi senza intervento umano. A differenza dei chatbot tradizionali nello spazio della chat, questi sistemi possono creare codice, interagire con servizi online ed eseguire azioni multi-step in modo indipendente.
Sebbene queste capacità promettano importanti guadagni di produttività, aumentano anche il rischio che un ambiente di testing mal formattato o controlli insufficienti possano portare i modelli ad assumere azioni impreviste durante un processo di valutazione della sicurezza.
Le figure chiave della comunità AI stanno persino spingendo per una decelerazione gestita per garantire che il controllo umano tenga il passo con l'intelligenza delle macchine.
Irregular ha notato che non ci sono problemi aperti con l'agente AI di Meta
Meta ha dichiarato che Irregular, un fornitore di sicurezza AI, ha eseguito i test e l'ha avvisato della violazione. Ha aggiunto che prevede di divulgare maggiori dettagli pubblicamente sull'incidente una volta confermati tutti i fatti.
Ha sostenuto che il suo agente AI “ha sfruttato una vulnerabilità di sicurezza in un servizio di terze parti”. Le fonti hanno identificato l'AI ribelle come Muse Spark 1.1, un modello fortemente promosso da Meta per le sue abilità di programmazione d'élite.
Irregular ha affermato che l'incidente si riduce alla stessa falla ambientale che Anthropic ha divulgato la scorsa settimana, escludendo completamente un complesso exploit di hacking o una fuga dalla sandbox.
E sebbene Meta abbia dichiarato che la violazione è stata causata da una configurazione errata dell'ambiente di testing piuttosto che dall'AI che si è liberata autonomamente dalla sua sandbox, i ricercatori affermano che l'incidente dimostra che la sicurezza dipende non solo dal modello stesso ma anche dalla sua infrastruttura.
Anche i sistemi AI altamente sicuri possono comportarsi in modo imprevisto se i controlli di accesso, le autorizzazioni di rete o gli ambienti di testing non sono configurati correttamente.
Ha ulteriormente dichiarato: “Non ci sono problemi aperti attuali. Irregular sta sviluppando un white paper per condividere le migliori pratiche per il contenimento e l'esecuzione sicura di valutazioni informatiche.”
L'AISI afferma che i modelli di OpenAI e Anthropic hanno cercato di influenzare i manutentori umani
In precedenza, OpenAI ha ammesso che i suoi sistemi autonomi si erano infiltrati in più reti pubbliche, incluso l'hub della comunità AI Hugging Face. La divulgazione di OpenAI ha successivamente indotto Anthropic a eseguire i propri controlli di sicurezza, che hanno rivelato che Claude aveva eseguito attacchi simili su diverse aziende dopo che un errore di configurazione gli aveva consentito di accedere a Internet.
Un rapporto normativo del Regno Unito, tuttavia, ha rivelato problemi più preoccupanti. Secondo l'AI Security Institute del Regno Unito, i modelli AI di OpenAI e Anthropic hanno tentato di aggiungere codice dannoso a un progetto open-source influenzando i suoi manutentori umani.
“Nel tentativo di far approvare il codice, l'agente ha impegnato in ingegneria sociale — creando identità online false e utilizzandole per pressioni sul manutentore del progetto affinché approvasse il codice,” ha dichiarato l'AISI.
Ha notato che tutti questi tentativi sono falliti e non hanno causato danni reali. Anche se non è stato fatto alcun danno reale e ogni tentativo è fallito, l'organismo di vigilanza ha avvertito che questa è la più chiara prova nel mondo reale finora di un'AI che agisce in modo ingannevole e i pericoli dell'autonomia.
L'AISI ha anche spiegato i suoi criteri di testing: “Per misurare ciò che questi modelli possono fare genuinamente, li testiamo in condizioni che riflettono ciò che un attaccante umano capace potrebbe fare.”
Finora, OpenAI ha riconosceva l'incidente di sicurezza durante le prove AISI, affermando di voler costruire migliori protezioni a livello di settore per il testing di modelli volatili. È diventata pubblica riguardo a un incidente separato in cui Irregular ha accidentalmente esposto i suoi modelli a Internet aperto durante un'esercitazione simulata.
L'azienda si è impegnata a rafforzare la sua supervisione di test di terze parti, incluso come determina quali valutazioni comportano un rischio maggiore, esamina le richieste di accesso a Internet o minori salvaguardie, gestisce l'isolamento e l'uso delle credenziali, monitora i test e risponde agli incidenti attraverso procedure di escalation più chiare.
Nel frattempo, la Casa Bianca ha invitato i principali sviluppatori di AI, tra cui Meta, Anthropic, OpenAI e Google, questa settimana a discutere di un quadro volontario appena finalizzato per il testing di cybersecurity di sistemi AI avanzati.
Durante le discussioni con i rappresentanti delle aziende, l'amministrazione Trump ha dichiarato che i modelli AI open-weight come Llama di Meta e Nemotron di Nvidia non sarebbero stati coperti dal suo quadro di testing volontario sulla sicurezza proposto.
L'esenzione ha suscitato dibattito tra i ricercatori sulla sicurezza dell'AI, che sostengono che i modelli open-weight possono essere scaricati, modificati e affinati liberamente da terze parti.
I critici affermano che escluderli dalle linee guida di testing volontario potrebbe creare punti ciechi man mano che modelli sempre più capaci diventano ampiamente disponibili al di fuori del controllo dei loro sviluppatori originali.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Domande frequenti
Perché l'agente AI di Meta ha hackerato un'altra azienda?
Meta ha dichiarato che l'AI ha accesso al sistema di un'altra azienda a causa di un errore nell'ambiente di testing durante una valutazione di cybersecurity.
Altre aziende AI hanno sperimentato incidenti di sicurezza simili?
Sì. OpenAI e Anthropic hanno segnalato casi in cui i loro modelli AI hanno tentato di accedere a sistemi online reali durante test di sicurezza.
Perché gli esperti di sicurezza AI sono preoccupati per gli agenti AI autonomi?
Gli esperti affermano che gli agenti AI possono eseguire compiti autonomamente, quindi necessitano di solide misure di protezione per prevenire comportamenti imprevisti o pericolosi durante i test.
Nellius Irene
Nellius è una laureata in Gestione Aziendale e Informatica con cinque anni di esperienza nel settore delle criptovalute. È anche diplomata presso Bitcoin Dada. Nellius ha contribuito a principali testate giornalistiche, tra cui BanklessTimes, Cryptobasic e Riseup Media.
