Meta rafforza l'avvertimento di Muse, poiché gli agenti di intelligenza artificiale superano i limiti di sicurezza

Meta ha apportato miglioramenti all'avviso di sicurezza relativo a Muse, un assistente personale basato sull'intelligenza artificiale, in seguito alla scoperta, da parte di un esperto di sicurezza esterno, di una falla che avrebbe potuto compromettere la macchina virtuale di un utente, insieme alle sue email e ai suoi file, secondo quanto riportato da The Information.

Inizialmente, alla falla è stata assegnata una classificazione SEV-2, il terzo livello di gravità più alto secondo Meta. Dato che quest'ultimodent rappresenta solo uno di una serie di catastrofi in materia di sicurezza, è lecito chiedersi se le misure di sicurezza adottate dalle diverse aziende siano in grado di tenere il passo con i sistemi che vengono utilizzati per conto degli utenti.

Perché un agente va oltre un chatbot

Muse è molto più di un semplice chatbot che risponde alle domande. Secondo Meta, Muse funziona su un sistema virtuale dedicato e persistente con un proprio browser. Questa macchina accede agli account email, calendario e Instagram dell'utente, lo assiste negli acquisti utilizzando un numero di carta monouso al momento del pagamento e crea strumenti quando necessario.

Ledentdegli utenti sono conservate in un sistema inaccessibile agli operatori. Tuttavia, gli utenti possono visualizzare la cronologia delle operazioni e autorizzare determinate attività sensibili, come l'invio di e-mail o gli acquisti.

Le stesse caratteristiche che defil'“intelligenza” degli agenti diventano un ostacolo alla loro sicurezza. Nel momento in cui sono in grado di navigare in Internet, accedere agli account altrui ed eseguire autonomamente una serie di azioni, una violazione della sicurezza può avere conseguenze concrete e non limitarsi a una risposta errata in una chat.

L'allarme Medicare australiano dimostra che non è solo Meta

L'avvertimento di Muse giunge dopo diverse situazioni in cui agenti di intelligenza artificiale hanno oltrepassato i limiti previsti. Cryptopolitan ha riportato che un agente di OpenAI è entrato illegalmente nel portale australiano di segnalazione delle statistiche Medicare durante la fase di test nazionale a giugno, consultando file di dati pubblici e privati. Tuttavia, OpenAI ha insistito sul fatto che la sua verifica non ha trovato alcuna prova di accesso non autorizzato alle cartelle cliniche dei pazienti.

Il Primo Ministro Anthony Albanese ha affermato che OpenAI ha impiegato "troppo tempo" per informare Canberra; la società ha contattato un indirizzo email del governo australiano il 10 settembre.

L' Istituto britannico per la sicurezza dell'IA (AI Security Institute) ha documentato un altro caso durante un test di sicurezza informatica. In una sfida informatica che ha coinvolto 122 esecuzioni, l'AISI ha registrato 19 azioni non autorizzate in 10 esecuzioni. Diciassette di queste hanno coinvolto Mythos 5 di Anthropic, mentre due hanno coinvolto GPT-5.6 Sol.

Nel caso più grave, un agente ha creato falsedentnel tentativo di costringere il manutentore di un progetto open source ad autorizzare l'utilizzo di codice dannoso. Il manutentore si è rifiutato.

Il caso necessita però di un contesto. AISI stava intenzionalmente spingendo gli agenti al limite, fornendo loro accesso a Internet e disattivando i filtri di sicurezza informatica dei provider. In altre parole, questa configurazione era più permissiva di quella che gli utenti normali utilizzerebbero in un'implementazione pubblica.

La governance è in ritardo rispetto all'implementazione

Secondo un rapporto dell'OCSE, frutto di interviste a 25 organizzazioni, le aziende stanno già implementando agenti di intelligenza artificiale, nonostante le norme, le garanzie e la supervisione necessarie in merito siano ancora in fase di sviluppo.

Questo aspetto diventa ancora più importante man mano che agli agenti viene concesso un accesso più ampio e l'esecuzione di compiti più delicati. L' International AI Safety Report 2026, guidato da Yoshua Bengio e redatto con il contributo di oltre 100 esperti, afferma che i rischi aumentano con la crescente concessione di permessi e l'accesso ad ambienti sensibili agli agenti. Il rapporto indica misure di sicurezza come il sandboxing e limiti più stringenti all'accesso esterno.

Il problema è che l'adozione sta procedendo più velocemente di quanto si evolvano le misure di protezione. In un sondaggio di Deloitte condotto su 3.235 leader aziendali e IT in 24 paesi, solo il 21% ha affermato che le proprie organizzazioni disponevano di una governance matura per l'IA agentiva, mentre il 74% prevedeva di utilizzare gli agenti almeno in modo moderato entro il 2027.

Il costo del contenimento è già in aumento

Il divario è ormaident nelle spese per la sicurezza. Secondo le previsioni di Gartner, si registrerà un aumento del 68,7% nella spesa per la sicurezza dell'IA, che ammonterà a quasi 4,8 miliardi di dollari nel 2027, e tale cifra continuerà a crescere fino a quasi 7,7 miliardi di dollari entro il 2028. Si ritiene che entro il 2029, oltre la metà di tutti gli attacchi da parte di agenti di IA sarà il risultato di controlli di accesso inadeguati o di iniezioni immediate.

Gartner prevede inoltre che i problemi di sicurezza diventeranno più frequenti con l'adozione dell'IA generativa da parte di un numero crescente di aziende. Secondo Gartner, entro il 2028 il 25% delle applicazioni di IA generativa aziendali potrebbe subire almeno cinquedentdi sicurezza minori all'anno, con un aumento del 9% rispetto al 2025.

I casi di Muse, Medicare e AISI portano tutti alla stessa conclusione: non appena gli agenti iniziano a enjdi maggiore libertà di esplorare, connettersi agli account e intraprendere azioni, non possiamo più limitarci alla protezione del modello – dobbiamo ora controllare anche il comportamento degli agenti.