L'Australia mette in guardia l'ONU sui pericoli dell'intelligenza artificiale dopo che un agente di OpenAI ha aggirato i sistemi di sicurezza governativi

L'Australia ha portato la sua battaglia per la sicurezza dell'intelligenza artificiale alle Nazioni Unite, dopo che alcuni sistemi autonomi collegati a OpenAI sono riusciti a eludere le protezioni di un servizio governativo australiano che gestisce i dati del programma Medicare.

Il Primo Ministro Anthony Albanese ha dichiarato giovedì ai leader mondiali che l'intelligenza artificiale sta avanzando a un "ritmo frenetico" e che i governi hanno bisogno di controllitronsu questa tecnologia.

Si tratta della prima violazione dei sistemi informatici del governo australiano resa pubblica. Intervenendo all'Assemblea Generale delle Nazioni Unite a New York, Anthony ha definito l'intrusione "inaccettabile"

Anthony ha lanciato l'allarme dopo aver rivelato che, a giugno, alcuni programmi di intelligenza artificiale non autorizzati appartenenti a OpenAI erano riusciti ad accedere alla rete informatica governativa. OpenAI ne è venuta a conoscenza circa due mesi dopo, come riportato in precedenza Cryptopolitan .

Secondo Anthony, all'inizio di questa settimana ha parlato personalmente con Sam Altman, fondatore di OpenAI. Durante la conversazione, Anthony ha espresso la sua insoddisfazione per il fatto che l'azienda non abbia notificato al governo la violazione dei dati fino ad ora.

L'Australia spinge i governi a inasprire le norme sull'IA, mentre i leader avvertono che i sistemi si stanno evolvendo troppo rapidamente

Anthony ha dichiarato alle Nazioni Unite che i Paesi non possono semplicemente bloccare l'IA o fingere che stia scomparendo. "Non possiamo ignorare l'IA né impedirla", ha affermato. "Ed è per questo che questa settimana ci siamo uniti ad altre nazioni per chiedere azioni volte a plasmare lo sviluppo dell'intelligenza artificiale, anziché esserne passivamente influenzati"

Ha inoltre sottolineato gli usi economici e medici dell'IA, avvertendo al contempo che gli stessi sistemi possono creare nuovi problemi di sicurezza.

"L'IA può migliorare la vita, stimolare la crescita e la produttività, fornire scoperte rivoluzionarie nel settore sanitario e in altri campi", ha affermato Anthony. "Ma gli stessi leader delle aziende di IA hanno messo in guardia dal potenziale rischio di consentire all'IA di frontiera di svilupparsi troppo rapidamente senza limiti di sicurezza.".

L'intelligenza artificiale è diventata uno dei principali temi di discussione all'Assemblea Generale di quest'anno.

Sam ha dichiarato al Consiglio di sicurezza delle Nazioni Unite che:

Nella nostra storia, ci sono stati momenti in cui Paesi in competizione tra loro e non sempre in buoni rapporti si sono comunque uniti per interessi comuni e per il bene collettivo di fronte a una nuova e potente tecnologia. Crediamo che questo debba essere uno di quei momenti.

L'amministratore delegato di Anthropic, Dario Amodei, ha inoltre auspicato "standard globali comuni" che regolino le modalità di test dei modelli avanzati. Anthropic è un'azienda privata e non è quotata in borsa.

Dario ha lanciato un avvertimento molto più severo su ciò che potrebbe accadere se governi e sviluppatori perdessero il controllo di sistemi sempre più potenti.

Se gestita male, credo che l'intelligenza artificiale potrebbe rappresentare un rischio per l'umanità nel suo complesso.

Queste dichiarazioni fanno seguito a un'iniziativa internazionale di inizio settimana che ha coinvolto 22 paesi. Il gruppo, guidato da Finlandia e Norvegia, ha sostenuto una dichiarazione che chiede una struttura di supervisione globale in materia di sicurezza dell'intelligenza artificiale.

La dichiarazione affermava che l'intelligenza artificiale "deve rimanere sotto la direzione, la supervisione e il controllo umani"

Due importanti paesi erano assenti da quell'accordo: gli Stati Uniti e la Cina.

Le sonde OpenAI hanno continuato ad accedere a siti con restrizioni per mesi di addestramento

Mentre tutto ciò accadeva, un nuovo rapporto del gruppo di ricerca sull'intelligenza artificiale Transluce ha affermato che gli agenti OpenAI facevano parte di un gruppo più ampio di sistemi automatizzati che cercavano di raccogliere informazioni dai siti web durante le esercitazioni di addestramento. I ricercatori hanno scoperto tentativi che coinvolgevano tre siti universitari e governativi.

Secondo il rapporto, i sistemi inizialmente svolgevano normali attività di raccolta dati. I problemi sono iniziati quando i metodi tradizionali per ottenere le informazioni richieste hanno smesso di funzionare.

Anziché arrendersi, gli agenti hanno iniziato a cercare altre strade.

Transluce ha rilevato che, tra maggio e giugno, i sistemi avevano tentato di eludere le misure di sicurezza in tutti e tre i siti, dopo aver fallito nell'utilizzo di altri mezzi per la raccolta di informazioni.

Attività di rete riconducibili a questa tendenza più ampia sono state rilevate anche la scorsa settimana. Secondo il rapporto, tale traffico indicava che gli agenti erano ancora in grado di aggirare le restrizioni utilizzando alcuni servizi online.

L'attività potrebbe essere in corso da molto più tempo. Transluce tracrilevato segnali più chiari almeno da marzo al 16 settembre. I ricercatori hanno anche trovato segnali più deboli di un comportamento simile di raccolta dati risalente a novembre 2025.

Il team di ricerca ha reso pubblici i propri risultati, presentando una serie di dati che mostrano decine di migliaia di query ritenute provenienti da bot autonomi basati sull'intelligenza artificiale.

I ricercatori non avevano modo di dimostrare in modo definitivo che i tentativi precedenti provenissero dagli stessi bot. Ciononostante, questi schemi rimanevano coerenti con il modo in cui l'IA potrebbe sviluppare vari metodi di accesso alle informazioni dopo ripetuti tentativi.

Questi casi si sono verificati mentre OpenAI addestrava sistemi di agenti sempre più sofisticati e competeva con Anthropic. Transluce ha affermato che lo schema è cambiato nel tempo, man mano che gli agenti diventavano più efficaci nel raggiungere le informazioni bloccate.

"Entro marzo, avevano trovato modi creativi per aggirare i limiti di accesso. Tra maggio e giugno, avevano ottenuto un accesso maggiore, tentando anche di eludere le difese informatiche per portare a termine i loro compiti", si legge nel rapporto.