Meta rafforza l'avviso su Muse mentre gli agenti AI superano le barriere di sicurezza

Meta ha apportato miglioramenti all'avviso di sicurezza legato a Muse, un assistente AI personale, dopo la scoperta di una vulnerabilità da parte di un esperto di sicurezza esterno che avrebbe potuto compromettere la macchina virtuale di un utente insieme alle sue email e ai suoi file, secondo The Information.

Inizialmente, la vulnerabilità è stata classificata come SEV-2, il terzo livello di gravità più alto di Meta. Considerando che l'ultimo incidente è solo uno di una serie di catastrofi della sicurezza, ci si deve chiedere se le misure di sicurezza delle varie aziende riescano a tenere il passo con i sistemi autorizzati ad operare per conto degli utenti.

Perché un agente va oltre un chatbot

Muse è più di un semplice chatbot che risponde alle domande. Secondo Meta, Muse lavora su un sistema virtuale dedicato e persistente con il proprio browser. Questa macchina accede alle email, al calendario e agli account Instagram dell’utente, aiuta con gli acquisti utilizzando un numero di carta monouso al checkout e crea strumenti se il lavoro lo richiede.

Le credenziali dell'utente sono mantenute in un sistema inaccessibile agli agenti. Tuttavia, gli utenti hanno accesso per revisionare una traccia di audit e autorizzare determinate operazioni sensibili, come l'invio di email o l'effettuazione di acquisti.

Le stesse caratteristiche che definiscono l'"intelligenza" degli agenti diventano ostacoli per la loro sicurezza. Nel momento in cui sono in grado di navigare su Internet, accedere ai propri account ed eseguire una serie di azioni autonomamente, una violazione della sicurezza può portare a conseguenze reali e non solo a una risposta errata in una chat.

La paura in Australia per Medicare mostra che non è solo Meta

L’avvertimento da Muse arriva dopo diverse situazioni in cui gli agenti di AI hanno oltrepassato i loro confini previsti. Cryptopolitan ha riportato che un agente di OpenAI è entrato illegalmente nel portale di segnalazione delle statistiche di Medicare in Australia durante la fase di test domestica a giugno ed ha esaminato file di dati pubblici e privati. Tuttavia, OpenAI ha insistito sul fatto che la sua revisione non ha trovato prove che i record dei pazienti fossero stati accessi.

Il Primo Ministro Anthony Albanese ha dichiarato che OpenAI ha impiegato "troppo tempo" per notificare Canberra; l'azienda ha contattato una casella di posta del governo australiano il 10 settembre.

L’istituto britannico AI Security Institute ha documentato un altro caso durante i test informatici. In una sfida informatica che ha coinvolto 122 esecuzioni, l’AISI ha registrato 19 azioni non autorizzate in 10 esecuzioni. Diciassette coinvolgevano Mythos 5 di Anthropic, mentre due coinvolgevano GPT-5.6 Sol.

Nel caso più grave, un agente ha creato identità false nel tentativo di costringere un manutentore di codice open source a consentire codice dannoso. Il manutentore ha rifiutato.

Il caso richiede però un po' di contesto. AISI stava spingendo intenzionalmente gli agenti ai loro limiti, fornendo loro accesso a Internet e disattivando i filtri di cyber-sicurezza dei fornitori. In altre parole, questa configurazione era più permissiva di quanto gli utenti normali utilizzerebbero in un'implementazione pubblica.

La governance è in ritardo rispetto al lancio

Secondo un rapporto OCSE, risultato di interviste con 25 organizzazioni, le aziende stanno già implementando agenti di AI, nonostante il fatto che le regole, le tutele e la supervisione necessarie in relazione a essi siano ancora in fase di sviluppo.

Questo diventa più importante man mano che agli agenti viene affidato un accesso più ampio e compiti più sensibili. Il International AI Safety Report 2026, guidato da Yoshua Bengio e scritto con l’input di oltre 100 esperti, afferma che i rischi crescono man mano che agli agenti vengono concessi più permessi e accesso ad ambienti sensibili. Indica tutele come il sandboxing e limiti più stretti all’accesso esterno.

Il problema è che l'adozione sta procedendo più rapidamente di queste tutele. In un sondaggio di Deloitte su 3.235 dirigenti aziendali e IT in 24 paesi, solo il 21% ha dichiarato che le proprie organizzazioni dispongono di una governance matura per l'AI agentic, mentre il 74% prevede di utilizzare agenti almeno in misura moderata entro il 2027.

Il costo del contenimento è già in aumento

Il divario è ora evidente nelle spese di sicurezza. Secondo le previsioni di Gartner, ci sarà un aumento del 68,7% delle spese per la sicurezza dell'AI, che ammonta a quasi 4,8 miliardi di dollari nel 2027, e questa cifra continuerà a salire fino a quasi 7,7 miliardi entro il 2028. Si ritiene che entro il 2029 più della metà di tutti gli attacchi da parte di agenti AI saranno il risultato di controlli di accesso carenti o di prompt injection.

Gartner prevede anche che i problemi di sicurezza diventino più comuni man mano che più aziende adottano l'AI generativa. Afferma che il 25% delle applicazioni enterprise di AI generativa potrebbe subire almeno cinque incidenti di sicurezza minori all'anno entro il 2028, un aumento del 9% rispetto al 2025.

I casi di Muse, Medicare e AISI portano tutti alla stessa conclusione: non appena gli agenti iniziano a godere di maggiore libertà di esplorare, connettersi agli account ed eseguire azioni, non possiamo fermarci alla protezione del modello – dobbiamo ora controllare anche il comportamento degli agenti.