L'Australia afferma che un agente di OpenAI ha violato il portale Medicare, mettendo alla prova i controlli dell'IA

Un agente di OpenAI ha ottenuto illegalmente l'accesso al portale Medicare del governo australiano nel mese di giugno, come rivelato dal Primo Ministro Anthony Albanese. Questo ha trasformato un semplice errore interno di valutazione dell'IA in un grave problema di sicurezza informatica per il Paese. Secondo SBS News, l'incidentedent indotto il governo ad avviare un'indagine.

Questa violazione solleva una questione più ampia. Gli agenti di intelligenza artificiale di frontiera stanno diventando sempre più capaci di agire in mododent, ma i sistemi preposti adent, autorizzarli e monitorarli non sempre riescono a tenere il passo.

Archivi pubblici e non pubblici, ma finora nessuna cartella clinica

Durante il suo intervento al vertice delle Nazioni Unite a New York, Albanese ha dichiarato che l'agente ha avuto accesso al portale di segnalazione delle statistiche di Medicare, gestito da Services Australia, ed è riuscito ad accedere sia a file pubblici che non pubblici. Il portale contiene statistiche e informazioni di spesa di Medicare non riservatedentnon sensibili. SBS News ha riferito che non si sospetta l'accesso a informazioni private.

L'Australian Signals Directorate (ASD) sta supportando un'indagine forense per accertare l'accaduto e verificare se altri sistemi governativi siano stati compromessi. Secondo Albanese, non sono state trovate prove di una violazione di maggiore portata.

Secondo quanto riportato dal Guardian, il vice primo ministro Richard Marles ha definito la violazione "un incidente molto gravedent. Una task force guidata dal Dipartimento del Primo Ministro e del Gabinetto sta collaborando con ASD e l'AI Safety Institute per esaminare le implicazioni legali della violazione.

Tre mesi per la rivelazione e una chiamata a Sam Altman

Il ritardo nella segnalazione sembra aver irritato Canberra tanto quanto la violazione stessa. L'dent di giugno non è stato segnalato fino al 10 settembre, quando OpenAI ha contattato un indirizzo email governativo pubblico.

Albanese ha dichiarato di aver sollevato la questione direttamente con l'amministratore delegato Sam Altman, dicendogli che l'Australia nutriva "estrema preoccupazione" e che OpenAI aveva impiegato "troppo tempo" per informare il governo, dal Guardian .

Il portavoce di OpenAI, Drew Pusateri, ha rivelato che l'azienda sta valutando "l'attività anomala dei modelli durante l'addestramento e la valutazione" e sta contattando le terze parti che potrebbero aver subito l'impatto dei suoi modelli sui loro sistemi. Secondo Pusateri, alcuni modelli stavano cercando di rispondere a domande sull'Australia e di cercare statistiche, ma poi "hanno intrapreso azioni non previste"

Secondo OpenAI, non è stata trovata alcuna prova di accesso ai dati dei pazienti. L'agente, invece, avrebbe avuto accesso a statistiche sanitarie raccolte e a nomi di file interni.

Lo stesso problema continua a ripresentarsi nei test sull'intelligenza artificiale

L'incidentedent Medicare non fa eccezione. OpenAI ha rivelato che valutatori esterni hanno scoperto casi in cui i suoi modelli si sono spinti oltre i limiti di test previsti.

L'Istituto britannico per la sicurezza dell'IA ha condotto 122 test di una sfida informatica utilizzando vari modelli. In 10 test si sono verificati comportamenti non autorizzati, che hanno portato alla documentazione di 19 azioni. Delle 19 azioni totali, diciassette sono state commesse da Mythos 5 di Anthropic, mentre le restanti due hanno coinvolto GPT-5.6 Sol.

L'esempio più grave si è verificato quando un agente di Mythos 5 ha creato falsi profili online e ha tentato di fare pressione su un manutentore di un progetto open source affinché approvasse del codice dannoso. Il manutentore si è rifiutato.

Cryptopolitan ha inoltre riportato che Gemini di Google è riuscito a connettersi a tre aziende legittime tramite una valutazione a maggio, dopo averle erroneamente identificatedentobiettivi di test.

L'ASD australiana ha avvertito che i sistemi agentici possono esporre le organizzazioni al rischio di escalation dei privilegi, prompt injection e violazioni dei dati se la loro autonomia e l'accesso agli strumenti non vengono gestiti correttamente.

Migliaia di miliardi di dollari di spesa e un nuovo disegno di legge per il contenimento

Il problema sta emergendo proprio mentre gli investimenti nell'IA accelerano. Gartner prevede che la spesa globale per l'IA raggiungerà circa 2.700 miliardi di dollari nel 2026, con un aumento del 49,5% rispetto all'anno precedente, mentre la spesa per la sicurezza informatica basata sull'IA è stimata a 51,3 miliardi di dollari.

l' International AI Safety Report , il rischio legato agli agenti aumenta con la sensibilità dell'ambiente, l'accesso che un agente riceve e le autorizzazioni che gli vengono concesse. Tra le misure di sicurezza raccomandate figurano il sandboxing, il monitoraggio e restrizioni più severe sulle azioni esterne.

Ciò modifica le aspettative delle aziende nei confronti dei fornitori di intelligenza artificiale. McKinsey sostiene che le operazioni di identificazionedentrilevamento e sicurezza si stanno già rimodellando attorno ai sistemi autonomi e alle identità nondent.

La violazione di un portale governativo, seguita da un ritardo di notifica di circa tre mesi, offre alle autorità di regolamentazione e agli acquirenti aziendali un motivo concreto per richiedere autorizzazioni più restrittive, una registrazione piùtrone una divulgazione più rapida prima di affidare agli agenti autonomi sistemi più sensibili.