Question 1

Quali modelli di Claude sono stati coinvolti nelle violazioni?

Accepted Answer

Anthropic ha dichiarato che sono stati coinvolti tre modelli: Opus 4.7, Mythos 5 e un modello di test interno non ancora rilasciato. L'attività ha interessato sei cicli di valutazione, quattro dei quali hanno colpito la stessa organizzazione.

Question 2

Come ha fatto Claude ad accedere a sistemi reali se si trattava di un test?

Accepted Answer

Un errore di configurazione nelle valutazioni eseguite con Irregular, partner di Anthropic, ha lasciato le macchine di test con accesso a Internet in tempo reale. Il messaggio di Anthropic aveva comunicato a Claude che l'ambiente era una simulazione senza connettività, quindi i modelli hanno trattato i sistemi reali come parte dell'esercizio.

Question 3

Qualcuno di questi attacchi ha causato danni concreti?

Accepted Answer

Sì. Mythos 5 ha pubblicato un pacchetto Python dannoso su PyPI che è rimasto online per circa un'ora ed è stato scaricato ed eseguito su 15 sistemi reali. Opus 4.7 ha ottenuto ledente ha avuto accesso a un database di dati di produzione prima che Anthropic rilevasse l'attività.

Irregolare

I democratici alla Camera vogliono che gli amministratori delegati di OpenAI e Anthropic prestino giuramento sulle violazioni relative all'intelligenza artificiale

Anthropic afferma che Claude ha violato i sistemi di sicurezza di tre aziende durante test di sicurezza fallimentari

Un briefing conciso.
Ogni giorno.

Irregolare

I democratici alla Camera vogliono che gli amministratori delegati di OpenAI e Anthropic prestino giuramento sulle violazioni relative all'intelligenza artificiale

Anthropic afferma che Claude ha violato i sistemi di sicurezza di tre aziende durante test di sicurezza fallimentari

Un briefing conciso.Ogni giorno.

Un briefing conciso.
Ogni giorno.