Rischi di sicurezza informatica "davvero preoccupanti" offuscano gli ultimi modelli supertrondi Anthropic

Secondo quanto riportato da Fortune, documenti interni di Anthropic trapelati avrebbero rivelato l'esistenza di una nuova generazione di modelli di intelligenza artificiale con il nome in codice "Claude Mythos"

Tuttavia, la notizia più rilevante è che i nuovi modelli sarebbero già in fase di test, nonostante si ritenga che presentino "rischi di sicurezza informatica senzadent"

Fuga di dati da parte di Anthropic

Fortune ha recentemente pubblicato un articolo contenente documenti riservati della società di intelligenza artificiale Anthropic. I documenti rivelano dettagli su una nuova generazione di modelli di IA in fase di sviluppo, che a quanto pare si chiamerà "Claude Mythos".

La fuga di dati si è verificata a causa di un errore umano nella configurazione del sistema di gestione dei contenuti (CMS) di Anthropic. Roy Paz di LayerX Security e Alexandre Pauwels dell'Università di Cambridge hanno spiegato che Anthropic ha lasciato quasi 3.000 risorse non pubblicate, tra cui immagini, PDF, file audio e bozze di post del blog, in un data lake accessibile e ricercabile pubblicamente. 

Il materiale era reperibile online prima che Fortune ne informasse Anthropic, dopodiché l'azienda ne ha rimosso l'accesso pubblico.

I documenti visionati da Fortune affermano che Claude Mythos è già in fase di test. Ancora più importante, dichiarano che Anthropic ritiene che questo nuovo modello "presenti rischi di sicurezza informatica senzadent" 

Anthropic ha dichiarato in una bozza di post sul blog che il sistema è "attualmente molto più avanti di qualsiasi altro modello di intelligenza artificiale in termini di capacità informatiche" e ha avvertito che "preannuncia una prossima ondata di modelli in grado di sfruttare le vulnerabilità in modi che supereranno di gran lunga gli sforzi dei difensori"

Considerati i potenziali rischi, Anthropic ha pianificato una strategia di implementazione prudente che avrebbe dato priorità all'accesso anticipato per le organizzazioni di difesa informatica, offrendo loro un vantaggio iniziale nel rafforzare le basi di codice contro gli exploit basati sull'intelligenza artificiale. 

Anthropic ha già segnalato in passato che un gruppo sponsorizzato dallo stato cinese ha utilizzato il Codice Claude per infiltrarsi in circa 30 organizzazioni, tra cui aziende tecnologiche, istituzioni finanziarie e agenzie governative, quindi la preoccupazione non è infondata. 

I documenti trapelati hanno anche rivelato i dettagli di un summit riservato ai CEO, programmato in una dimora settecentesca nella campagna inglese, dove l'amministratore delegato di Anthropic, Dario Amodei, avrebbe dovuto ospitare leader aziendali europei per discutere dell'adozione dell'IA e presentare funzionalità inedite del modello Claude.

La continua battaglia di Elon Musk contro Anthropic 

Non appena la notizia su X è trapelata e ha suscitato notevole attenzione, Elon Musk, proprietario di X e a capo di xAI, concorrente diretto di Anthropic, non si è lasciato sfuggire l'occasione di commentare. 

Musk ha commentato: "Davvero preoccupante", ottenendo rapidamente decine di migliaia di visualizzazioni e migliaia di "mi piace". 

Musk ha l'abitudine di commentare le notizie negative riguardanti i concorrenti con cui non concorda. Anthropic è stata fondata da ex dipendenti di OpenAI e Musk ha criticato apertamente sia OpenAI che l'approccio del settore dell'IA in generale alla sicurezza e alla commercializzazione.

Nel frattempo, la società di intelligenza artificiale di Musk, xAI, ha recentemente lanciato un nuovo piano di abbonamento a pagamento chiamato "SuperGrok Lite". L'abbonamento costa 10 dollari e sono stati imposti dei limiti agli utenti gratuiti di Grok per incentivarli ad acquistarlo o a sottoscrivere uno degli altri tre piani di abbonamento offerti da Grok. 

Tra questi figurano SuperGrok, che costa 30 dollari al mese, SuperGrok Heavy, che costa 300 dollari al mese, e Grok Business, che costa anch'esso 30 dollari al mese.