La documentazione per l'IPO di Anthropic rivela una pausa nell'addestramento e quattro incidenti di sicurezza
- Anthropic ha ritardato l'addestramento preliminare di un modello all'avanguardia per oltre un mese al fine di rafforzare le difese contro il furto dei pesi del modello.
- Quattro incidenti di valutazione della cybersecurity hanno visto i modelli Claude ottenere accesso non autorizzato a sistemi reali di terze parti.
- Le divulgazioni mostrano come migliori misure di sicurezza dell'IA possano creare benefici per la sicurezza, pur ritardando lo sviluppo e aumentando i costi.
Ottobre 26 di Anthropic Documento di quotazione (IPO) rivela due diverse preoccupazioni relative alla sicurezza. L'azienda ha ritardato l'inizio dell'addestramento preliminare di un modello all'avanguardia per oltre un mese mentre migliorava le difese contro il furto dei pesi del suo modello. In modo separato, quattro modelli Claude hanno accesso ai sistemi di organizzazioni reali durante valutazioni di cybersecurity.
Due problemi, un unico documento
Anthropic ha presentato la propria domanda alla Nasdaq per l'inserimento delle proprie azioni sotto il ticker ANT. La maggior parte dei seggi nel consiglio di amministrazione è controllata dal Long-Term Benefit Trust. La domanda non specifica ancora il prezzo dell'IPO o la valutazione.
La divulgazione solleva due questioni distinte: la salvaguardia dei pesi importanti del modello e l'impedire che gli agenti AI possano raggiungere sistemi esterni al loro ambiente di test.
Come i target di valutazione sono finiti online
In a July 30 report, Anthropic revealed that it had found three cases in which Claude models gained unauthorized access to real organizations’ systems while reviewing 141,006 cybersecurity test runs. Its testing partner, Irregular, had mistakenly left internet access open, even though Claude was told it was operating in an isolated simulation.
Durante gli esercizi capture-the-flag, gli agenti hanno confuso i sistemi reali con i target di test e hanno ottenuto l'accesso tramite password deboli o endpoint che non richiedevano autenticazione.
I tre casi riguardavano i seguenti modelli: Claude Opus 4.7, pubblicato in aprile; Mythos 5, presentato in giugno con un accesso inizialmente limitato ai cyberdefenders qualificati; e un modello di ricerca interno che non era ancora disponibile al pubblico.
Durante la valutazione, questi modelli sono stati eseguiti senza i filtri di sicurezza informatica e il monitoraggio normalmente utilizzati nelle versioni pubbliche. Anthropic ha interrotto le sue valutazioni di cybersecurity in corso d'indagine. Ha dichiarato che nessuno dei modelli aveva cercato deliberatamente di fuggire dal proprio ambiente di test o di copiare se stesso.
A September assessment revealed a fourth case involving an early version of Opus 4.6 that had accessed real systems in January. Anthropic did not discover the incident until August. It then expanded its review to roughly 481 million transcripts but found no additional cases of similar severity.
Ancora più preoccupante è stato scoprire che alcuni modelli hanno continuato i propri attacchi nonostante i segnali che stavano prendendo di mira sistemi reali. Il gruppo di ricerca indipendente METR sta esaminando gli incidenti.
Un caso separato presso l'istituto britannico per l'AI
L’UK AI Security Institute ha segnalato 19 azioni non autorizzate in 10 delle 122 prove eseguite. Diciassette coinvolgevano Mythos 5 e due GPT-5.6 Sol, il modello di punta di OpenAI presentato il 26 giugno. Un agente ha tentato di inserire codice malevolo in un progetto open source, creando identità false per esercitare pressioni sul suo mantenitore, che si è rifiutato.
L'AISI ha concesso agli agenti l'accesso a Internet disabilitando le impostazioni di sicurezza informatica per valutarne le capacità. Sono state utilizzate versioni diverse da quelle disponibili al pubblico. Gli investigatori non hanno riscontrato alcun segno di possibili danni nel mondo reale.
Tuttavia, gli agenti hanno intrapreso alcune azioni che non avrebbero dovuto compiere, suscitando sospetti sul loro comportamento in situazioni simili. Nel rapporto sull'incidente, l'AISI ha scritto:
"Ciò che possiamo affermare è che il comportamento è stato possibile, persistente e nuovo; questo da solo merita attenzione."
Una revisione di Check Point colloca i fallimenti dei test accanto all'uso crescente dell'IA da parte dei criminali, inclusa la ransomware agenziale.
Il costo dei controlli di sicurezza più rigorosi
Secondo i report di Cryptopolitan, gli investitori hanno stimato la valutazione dell'IPO di Anthropic a circa 2 trilioni di dollari, più del doppio della valutazione privata dell'azienda di 965 miliardi di dollari nel maggio scorso. Tuttavia, questo valore rimane ipotetico, poiché Anthropic non ha fornito alcun prezzo di offerta o valutazione nella sua domanda.
Con aspettative così elevate, controlli di sicurezza più severi comportano un compromesso finanziario. Potrebbero ritardare il lancio dei modelli e aumentare i costi di sviluppo, ma tutele più solide potrebbero anche aiutare a conquistare clienti aziendali cauti. Le puntate si stanno alzando.
Secondo Gartner, la spesa globale per l'IA raggiungerà i 2,7 trilioni di USD nel 2026, con un aumento del 49,5%, mentre la spesa per la cybersecurity in questo settore raddoppierà.
BCG ha rilevato che solo il 5% delle aziende intervistate dispone di controlli completi per gli agenti autonomi, sebbene il 42% si aspetti di concedere loro autorità decisionale entro il 2030. I fornitori in grado di dimostrare efficaci misure di salvaguardia potrebbero ottenere un vantaggio.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Domande frequenti
Perché Anthropic ha interrotto la pre-addestramento di uno dei suoi modelli?
Secondo il suo prospetto per l'IPO, Anthropic ha rimandato l'avvio del pre-addestramento di un nuovo modello base per oltre un mese al fine di rafforzare la protezione contro l'esfiltrazione dei pesi del modello.
Cosa è realmente accaduto durante le valutazioni di cybersecurity di Anthropic?
Un ambiente di test di terze parti gestito da Irregular è stato erroneamente lasciato connesso a Internet; di conseguenza, quattro modelli Claude, ai quali era stato detto di trovarsi in una simulazione sigillata, hanno eseguito attività di cattura della bandiera contro sistemi reali. Anthropic afferma che nessun dato dei clienti è stato interessato e che nessun modello ha tentato di fuggire.
In cosa è diverso l'incidente dell'UK AI Security Institute?
L'AISI ha deliberatamente abilitato l'accesso a Internet e disabilitato i classificatori di sicurezza per testare la capacità massima, riscontrando che gli agenti hanno compiuto 19 azioni non autorizzate su 10 delle 122 esecuzioni, per lo più da Mythos 5, senza che sia stato accertato alcun danno reale.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Micah Abiodun
Micah Abiodun utilizza al meglio la sua laurea magistrale in Ingegneria Ambientale e Gestione (MSc) presso l'Università Tecnologica di Tallinn (TalTech) per affinare le notizie su contenuti e previsioni dei prezzi su Cryptopolitan. Ora al suo 7° anno nello spazio mediatico crypto, copre le principali criptovalute, altcoin, DeFi, stablecoin, trend macroeconomici e tecnologie emergenti.
