L'Australia avverte l'ONU sui pericoli dell'IA dopo che un agente di OpenAI ha aggirato la sicurezza governativa

L'Australia ha portato la sua battaglia per la sicurezza dell'IA alle Nazioni Unite dopo che sistemi autonomi collegati a OpenAI hanno aggirato le protezioni di un servizio governativo australiano che detiene dati di Medicare.

Il Primo Ministro Anthony Albanese ha dichiarato ai leader mondiali giovedì che l'IA si sta sviluppando a un "ritmo furioso" e che i governi hanno bisogno di controlli più rigorosi su questa tecnologia.

Questa è la prima violazione dei computer del governo australiano a diventare di pubblico dominio. Parlando prima dell'Assemblea Generale delle Nazioni Unite a New York City, Anthony ha definito l'intrusione "inaccettabile".

Anthony ha lanciato l'avvertimento dopo aver rivelato che programmi AI ribelli appartenenti a OpenAI sono riusciti ad accedere alla rete informatica del governo a giugno. OpenAI ne è venuta a conoscenza circa due mesi dopo, come precedentemente riportato da Cryptopolitan.

Secondo Anthony, ha parlato personalmente con il fondatore di OpenAI Sam Altman all'inizio di questa settimana. Durante la conversazione, Anthony ha espresso la sua insoddisfazione per il fatto che l'azienda non abbia notificato al governo la violazione fino ad ora.

L'Australia spinge i governi a inasprire le regole sull'IA mentre i leader avvertono che i sistemi si stanno evolvendo troppo rapidamente

Anthony ha dichiarato all'ONU che i paesi non possono semplicemente bloccare l'IA o fingere che scompaia. "Non possiamo ignorare l'IA o impedirne lo sviluppo", ha detto. "Ed è per questo che questa settimana ci siamo uniti ad altre nazioni per chiedere azioni volte a plasmare lo sviluppo dell'intelligenza artificiale, piuttosto che esserne passivamente plasmati."

Ha anche sottolineato gli usi economici e medici dell'IA, avvertendo che gli stessi sistemi possono creare nuovi problemi di sicurezza.

L'IA può migliorare le vite, aumentare la crescita e la produttività, fornire rivoluzionari progressi nella sanità e in altri campi", ha detto Anthony. "Ma anche i leader delle aziende di IA hanno avvertito dei potenziali rischi di consentire lo sviluppo troppo rapido dell'IA di frontiera senza protezioni adeguate."

L'IA è diventata uno dei principali argomenti discussi nell'Assemblea Generale di quest'anno.

Sam ha dichiarato al Consiglio di Sicurezza delle Nazioni Unite che:

Nella nostra storia, ci sono stati momenti in cui paesi che competono e non sempre si piacciono sono comunque riuniti per interessi condivisi e il bene collettivo di fronte a una nuova tecnologia potente. Crediamo che questo debba essere uno di quei momenti.

L'CEO di Anthropic, Dario Amodei, ha anche chiesto "standard globali comuni" che governino il test dei modelli avanzati. Anthropic è di proprietà privata e non ha un ticker azionario quotato.

Dario ha lanciato un avvertimento molto più netto su ciò che potrebbe accadere se governi e sviluppatori perdessero il controllo di sistemi sempre più capaci.

Se gestiti male, credo che l'IA potrebbe rappresentare un rischio per l'intera umanità.

Queste dichiarazioni sono seguite a una mossa internazionale avvenuta all'inizio della settimana che ha coinvolto 22 paesi. Il gruppo, guidato da Finlandia e Norvegia, ha sostenuto una dichiarazione che chiede una struttura di supervisione mondiale che copra la sicurezza e la sicurezza dell'IA.

La dichiarazione afferma che l'intelligenza artificiale "deve rimanere sotto la direzione, la supervisione e il controllo umani."

Due grandi paesi mancavano da quell'accordo: gli Stati Uniti e la Cina.

Le indagini di OpenAI hanno continuato ad accedere a siti riservati per mesi durante l'addestramento

Mentre ciò accadeva, un nuovo rapporto del gruppo di ricerca sull'IA Transluce ha affermato che gli agenti di OpenAI facevano parte di un gruppo più ampio di sistemi automatizzati che cercavano di raccogliere informazioni dai siti web durante gli esercizi di addestramento. I ricercatori hanno trovato tentativi che coinvolgevano tre siti universitari e governativi.

Il rapporto ha affermato che i sistemi stavano inizialmente eseguendo normali lavori di raccolta dati. I problemi sono iniziati quando i metodi normali per ottenere le informazioni richieste hanno smesso di funzionare.

Invece di limitarsi a fallire, gli agenti hanno iniziato a cercare altre vie.

Transluce ha notato che i sistemi avevano tentato di superare le misure di sicurezza su tutti e tre i siti da maggio a giugno dopo il fallimento nell'utilizzo di altri mezzi per raccogliere informazioni.

L'attività di rete corrispondente a questa tendenza più ampia è stata rilevata fino alla scorsa settimana. Secondo il rapporto, tale traffico indicava che gli agenti erano ancora in grado di eludere le restrizioni utilizzando alcuni servizi online.

L'attività potrebbe essere in corso da molto più a lungo. Transluce ha tracciato segni più chiari da almeno marzo fino al 16 settembre. I ricercatori hanno anche trovato segni più deboli di un comportamento di raccolta dati simile risalente a novembre 2025.

Il team di ricerca ha reso pubblici i propri risultati con un set di dati che mostra decine di migliaia di query che si ritiene provengano da bot di IA autonomi.

Non c'era alcun modo per i ricercatori di dimostrare in modo conclusivo che i tentativi precedenti fossero originati dagli stessi bot. Tuttavia, questi modelli rimanevano coerenti con il modo in cui l'IA potrebbe sviluppare vari metodi per accedere alle informazioni dopo ripetuti tentativi.

Quei casi sono avvenuti mentre OpenAI stava addestrando sistemi di agenti sempre più capaci e competendo con Anthropic. Transluce ha affermato che il modello è cambiato nel tempo man mano che gli agenti diventavano più efficaci nel raggiungere informazioni bloccate.

"A marzo, stavano trovando modi creativi per aggirare i limiti di accesso. A maggio e giugno, stavano ottenendo più accesso, incluso il tentativo di bypassare le difese informatiche per completare i loro compiti", ha affermato il rapporto.