Anthropic segnala la prima spia orchestrata da AI sostenuta dalla Cina documentata

Anthropic ha segnalato quello che afferma essere il primo caso confermato di un attacco informatico sostenuto da un governo orchestrato quasi interamente dall'AI.

Secondo un blog pubblicato giovedì, l'azienda ha rilevato la campagna a metà settembre 2025, dopo aver osservato comportamenti anomali associati al suo strumento Claude Code.

Anthropic è convinta senza ombra di dubbio che l'operazione di spionaggio fosse gestita da un gruppo di hacking sponsorizzato dallo stato cinese e abbia coinvolto l'infiltrazione di circa trenta obiettivi di alto valore, tra cui grandi aziende tecnologiche, banche, produttori chimici e agenzie governative in diversi paesi. Alcuni di quegli attacchi sono riusciti.

Ciò che ha reso questa campagna diversa dalle passate campagne informatiche non era solo chi c'era dietro, ma come è stata eseguita.

Circa l'80-90% dell'intero attacco è stato gestito dall'AI, con operatori umani che intervenivano solo per un numero limitato di decisioni chiave, afferma Anthropic.

Gli hacker hanno jailbrotato Claude e lo hanno fatto pensare di fare un lavoro legittimo

Gli attaccanti hanno iniziato costruendo un framework di attacco automatizzato intorno a Claude Code, il modello AI stesso di Anthropic, e lo hanno ingannato facendogli credere di essere impiegato da un'azienda di cybersecurity che conduceva test interni.

Hanno violato i filtri di sicurezza di Claude attraverso il jailbreaking, una tattica che ha permesso loro di bypassare le protezioni integrate fornendo all'AI piccoli compiti privi di contesto che sembravano innocui da soli. Claude non sapeva di essere utilizzato per operazioni offensive perché non gli è stata data l'immagine completa in nessun momento.

Una volta che il modello è stato utilizzato, l'operazione si è mossa rapidamente. Claude ha scansionato la rete di ogni obiettivo, ha identificato le parti più sensibili dell'infrastruttura e ha riassunto la disposizione per gli operatori umani. Poi, ha iniziato a cercare vulnerabilità in quei sistemi. Utilizzando le sue capacità di codifica integrate, Claude ha scritto codice di exploit personalizzato, ha identificato punti deboli e ha recuperato le credenziali di accesso. Ha quindi estratto grandi volumi di dati interni, li ha organizzati in base al loro potenziale valore e ha segnalato account ad alto accesso.

Dopo che l'AI ha ottenuto il controllo a livello di amministratore, ha creato backdoor che hanno fornito accesso continuo ai sistemi compromessi. E quando ha finito, Claude ha redatto rapporti dettagliati di tutto ciò che aveva fatto (elencando nomi utente, sistemi violati e credenziali) in modo che il framework di attacco potesse utilizzare quelle informazioni per operazioni future.

Sebbene Claude fosse estremamente efficiente, non era impeccabile. A volte inventava password o identificava erroneamente i dati pubblici come sensibili. Tuttavia, questi errori erano rari e non rallentavano l'obiettivo generale. La velocità con cui l'IA eseguiva le operazioni, elaborando migliaia di richieste al secondo, la poneva ben al di sopra di qualsiasi cosa un team umano potesse realizzare.

Gli agenti IA ora svolgono il lavoro di squadre di hacker d'élite, con un intervento umano quasi nullo

Questa campagna rappresenta un punto di svolta perché mostra quanto l'IA sia avanzata in appena un anno. Claude eseguiva letteralmente loop, prendeva decisioni e concatenava sequenze complesse senza ordini diretti.

Questo modello di IA utilizzava strumenti del Model Context Protocol, ottenendo accesso a software esterni come cracker di password, mappatori di rete e recuperatori di dati, che in precedenza erano controllati esclusivamente da esseri umani.

Il sistema Claude ora comprende istruzioni complesse, scrive codice di exploit da solo e gestisce operazioni di cybersecurity sofisticate con molto poca guida. Questi agenti AI non stanno solo assistendo gli hacker, sono gli hacker. E stanno diventando sempre più capaci ogni giorno.

Dopo aver scoperto la violazione, Anthropic ha immediatamente avviato un'indagine di dieci giorni, bloccando i account malevoli uno per uno. Ha avvisato le organizzazioni colpite, collaborato con le autorità per condividere le informazioni e ampliato i propri sistemi di rilevamento per intercettare operazioni simili in futuro.

Ma l'azienda non finge che si tratti di un problema isolato. Il team afferma che questi attacchi diventeranno sempre più comuni e facili da realizzare. Questo perché le competenze necessarie per eseguirli non sono più riservate agli hacker d'élite. Se qualcuno riesce a jailbreakare un modello e a collegarlo al set di strumenti giusto, potrebbe portare avanti una campagna massiccia senza bisogno di un team o di profonde conoscenze tecniche.

Anthropic avverte di minacce in aumento mentre i modelli IA evolvono oltre il controllo umano

Le implicazioni sono enormi: se team privi di fondi ingenti o competenze tecniche approfondite possono lanciare attacchi su scala nazionale utilizzando sistemi di IA automatizzati, il distopico è certamente alle porte.

Il team di Threat Intelligence di Anthropic avverte che, sebbene abbiano tracciato l'attività solo attraverso Claude, è probabile che abusi simili stiano avvenendo su altri modelli IA all'avanguardia. Affermano che questo è l'inizio di un nuovo standard nella cyberwarfare.

Quindi perché continuare a rilasciare modelli con queste capacità, ti chiedi? Beh, Anthropic sostiene che questi stessi strumenti sono essenziali per la difesa, affermando che “l'AI che ha eseguito l'attacco era dello stesso tipo utilizzato dagli analisti di Anthropic per scavare tra i detriti, trovare modelli e comprendere la piena scala dell'operazione.”

Hanno comunque promesso di migliorare i livelli di sicurezza interni dei loro modelli, nonché di affinare i loro classificatori per il rilevamento degli attacchi e di pubblicare apertamente studi di caso come questo, affinché altri nel settore possano prepararsi.

Tuttavia, Anthropic afferma che non è sufficiente fare affidamento solo su di essi. Sta esortando tutti gli sviluppatori che lavorano su modelli di grandi dimensioni a investire pesantemente nella sicurezza.

Stanno inoltre chiedendo ai team di cybersecurity di iniziare a integrare l'IA nel rilevamento delle minacce, nella risposta agli incidenti, negli scan di vulnerabilità e nell'automazione dei Security Operations Center, perché i metodi tradizionali non sono più abbastanza veloci.