Come tre chat di Claude hanno raggiunto la polizia in sette settimane

Dall'11 agosto al 30 settembre, tre conversazioni con Claude di Anthropic sono state segnalate alla polizia. Due di questi utenti stanno ora affrontando accuse per reato grave.

Il terzo, un uomo di San Francisco che avrebbe minacciato l'amministratore delegato Dario Amodei, non è stato arrestato.

Arresto a San Antonio e minaccia con fucile AR-15 contro Amodei: si aprono gli eventi di agosto

La prima chat è avvenuta l'11 agosto a San Antonio. Nathaniel Michael Carrasco, 22 anni, ha dichiarato ad Anthropic AI di voler procurarsi un'arma e sparare contro gli studenti della Serna Elementary School, secondo un atto d'accusa.

La Sezione Operativa Nazionale delle Minacce dell'FBI ha avvisato la polizia locale il 28 agosto. Gli agenti hanno collegato Carrasco all'account tramite richieste di divulgazione d'emergenza a T-Mobile, Charter Communications e Google, che hanno abbinato il suo numero di telefono, il traffico IP e l'indirizzo all'account.

Carrasco è stato arrestato il 30 agosto, ha dichiarato la preside della scuola, con l'accusa di reato grave di minaccia terroristica volta a causare paura pubblica di lesioni gravi. La scuola ha scoperto la specifica minaccia contro il proprio campus solo attraverso la copertura mediatica, ha aggiunto.

Tre giorni dopo la chat di San Antonio, il 14 agosto, un uomo avrebbe affermato a Claude di aver acquistato un fucile AR-15 e di avere Amodei “nel mirino”, secondo un rapporto della polizia di San Francisco. Il martedì successivo, Anthropic ha informato la SFPD.

Gli agenti hanno accertato che l'uomo non si trovava nell'ufficio dell'azienda in Howard Street 500.

Un portavoce di Anthropic ha dichiarato che l'azienda ha bloccato l'account e ha riferito il caso alle autorità, affermando che era il processo di salvaguardia a funzionare come previsto. All'inizio di settembre, non era ancora stato arrestato o incriminato.

Il team di revisione di Anthropic ha inviato il 26 settembre messaggi agli agenti della contea di Lee

L'informativa sulla privacy di Anthropic, entrata in vigore il 10 settembre, stabilisce che può condividere i dati con le forze dell'ordine se ritiene in buona fede che ciò sia ragionevolmente necessario per prevenire gravi danni. I termini di servizio per i consumatori riservano il diritto di segnalare gli input, gli output o le azioni di un utente alle autorità "a sua esclusiva discrezione".

Il rapporto di arresto indica che Carli Michelle Heller, di Bonita Springs, Florida, ha scritto il 26 settembre che intendeva “spargere piombo” all'Ufficio dello Sceriffo della Contea di Lee. Gli investigatori affermano che il giorno seguente ha scritto di aver ottenuto una nuova arma.

Il rapporto afferma che le dichiarazioni sono state segnalate dal sistema di monitoraggio di Anthropic. Un team di revisione umana le ha riferite alle forze dell'ordine a causa della loro gravità.

Gli agenti hanno fermato Heller nella sua casa senza incidenti. Risponde dell'accusa di aver formulato una minaccia scritta di violenza e avrà un'udienza in tribunale a novembre. Lo sceriffo Carmine Marceno ha dichiarato che in seguito ha descritto l'utilizzo dell'intelligenza artificiale come un diario.

“L’intelligenza artificiale è uno strumento potente e, come qualsiasi tecnologia, può essere utilizzata in modo improprio”, ha dichiarato Marceno in un comunicato.

Ad aprile, Cryptopolitan ha riferito che Anthropic ha iniziato a richiedere un documento d'identità governativo e un selfie in diretta per alcune funzionalità.

Ad agosto, Cryptopolitan ha riferito che l'azienda ha impostato la memoria di Claude per ignorare argomenti relativi alla salute, alla politica e all'identità di genere, a meno che gli utenti non acconsentano esplicitamente.