Rischi di cybersecurity 'seriamente preoccupanti' nei nuovi modelli super potenti di Anthropic

Secondo i report legati a Fortune, documenti interni trapelati da Anthropic hanno rivelato l'esistenza di una nuova generazione di modelli AI con il nome in codice "Claude Mythos".

Tuttavia, la notizia principale è che i nuovi modelli sarebbero già nella fase di test nonostante si creda rappresentino "rischi di cybersecurity senza precedenti".

La fuga di dati di Anthropic

Fortune recentemente ha pubblicato un report contenente documenti trapelati dall'azienda di intelligenza artificiale, Anthropic. I documenti rivelano dettagli su una nuova generazione di modelli AI in sviluppo, presumibilmente denominati "Claude Mythos".

La fuga di dati è avvenuta a causa di un errore umano nella configurazione del sistema di gestione dei contenuti (CMS) di Anthropic. Roy Paz di LayerX Security e Alexandre Pauwels dell'Università di Cambridge hanno spiegato che Anthropic ha lasciato quasi 3.000 asset non pubblicati, tra cui immagini, file PDF, file audio e bozze di post del blog, in un data lake pubblicamente accessibile e ricercabile. 

Il materiale era reperibile online prima che Fortune notificasse Anthropic, dopo di che l'azienda ha rimosso l'accesso pubblico.

I documenti visionati da Fortune affermano che Claude Mythos è già nella fase di test. Più importante ancora, dichiarano che Anthropic ritiene che questo nuovo modello "presenti rischi di cybersecurity senza precedenti". 

Anthropic ha dichiarato in una bozza di blog che il sistema è "attualmente molto avanti rispetto a qualsiasi altro modello AI nelle capacità informatiche" e ha avvertito che "preannuncia una prossima ondata di modelli in grado di sfruttare le vulnerabilità in modi che superano di gran lunga gli sforzi dei difensori".

A causa dei potenziali rischi, Anthropic ha pianificato una strategia di lancio cauta che darebbe priorità all'accesso anticipato alle organizzazioni di difesa della cybersecurity, dando ai difensori un vantaggio nell'irrobustire i codebase contro gli exploit guidati dall'AI. 

Anthropic ha precedentemente segnalato che un gruppo sponsorizzato dallo Stato cinese ha utilizzato Claude Code per infiltrarsi in circa 30 organizzazioni, tra cui aziende tecnologiche, istituzioni finanziarie e agenzie governative, quindi la preoccupazione non è infondata. 

I documenti trapelati hanno anche rivelato dettagli di un summit per CEO su invito previsto in una tenuta del XVIII secolo nella campagna inglese, dove il CEO di Anthropic Dario Amodei avrebbe ospitato leader aziendali europei per discutere l'adozione dell'AI e mostrare le funzionalità non rilasciate del modello Claude.

La battaglia continua di Elon Musk contro Anthropic 

Una volta che la notizia è trapelata su X e ha attirato molta attenzione, Elon Musk, proprietario di X e capo di xAI, un diretto concorrente di Anthropic, non ha perso l'opportunità di commentare la notizia. 

Musk commentato, "Serio e preoccupante," e ha rapidamente ottenuto decine di migliaia di visualizzazioni e migliaia di like. 

Musk ha un modello di comportamento nel commentare notizie negative riguardanti i concorrenti con cui è in disaccordo. Anthropic è stata fondata da ex dipendenti di OpenAI, e Musk è stato apertamente critico sia verso OpenAI che verso l'approccio generale dell'industria dell'AI alla sicurezza e alla commercializzazione.

Nel frattempo, l'azienda di AI di Musk, xAI, ha recentemente lanciato un nuovo livello di abbonamento a pagamento chiamato "SuperGrok Lite". L'abbonamento costa 10 dollari e sono stati imposti limiti agli utenti gratuiti di Grok per spingerli ad acquistarlo o uno degli altri tre piani di abbonamento offerti da Grok. 

Questi includono SuperGrok, che costa 30 dollari al mese, SuperGrok Heavy, che costa 300 dollari al mese, e Grok Business, che costa anch'esso 30 dollari al mese.