Anthropic accusa la Cina di sottrarre dati di Claude tramite 24.000 account falsi

Anthropic afferma che tre aziende cinesi di IA hanno creato oltre 24.000 account falsi per estrarre dati dal suo sistema Claude. L'azienda afferma che l'obiettivo era potenziare rapidamente i propri modelli.

Le aziende nominate erano DeepSeek, Moonshot AI e MiniMax. Anthropic ha dichiarato che quegli account hanno inviato oltre 16 milioni di prompt a Claude per raccogliere risposte e modelli che potrebbero essere riutilizzati per l'addestramento.

Anthropic ha condiviso i dettagli in un post sul blog lunedì. L'azienda ha dichiarato che l'attività era una forma di distillazione. Quel processo utilizza gli output di un modello per addestrare un altro modello. Dario Amodei guida Anthropic.

Secondo quanto denunciato da Anthropic, DeepSeek ha eseguito circa 150.000 interazioni con Claude. Moonshot AI ha registrato oltre 3,4 milioni di prompt. MiniMax ha raggiunto oltre 13 milioni di prompt. Anthropic ha dichiarato che la scala mostra un'intenzione chiara di estrarre valore alla massima velocità.

OpenAI segnala comportamenti simili a Washington

All'inizio di questo mese, OpenAI ha inviato un memo ai legislatori della Camera accusando DeepSeek di utilizzare la stessa tattica di distillazione per copiare i suoi sistemi. Sam Altman dirige OpenAI. Dopo aver nominato OpenAI, l'azienda ha detto ai legislatori che DeepSeek ha cercato di imitare i suoi prodotti attraverso grandi volumi di prompt.

Anthropic ha dichiarato che la distillazione stessa ha usi validi. Le aziende la utilizzano per creare versioni più piccole dei propri modelli. Anthropic ha anche affermato che lo stesso metodo può creare sistemi concorrenti in una frazione del tempo e a una frazione del costo.

I dati sintetici ora svolgono un ruolo importante nell'addestramento dei grandi modelli di base. Gli sviluppatori li utilizzano perché i dati reali di alta qualità sono limitati. Molti laboratori stanno inoltre costruendo sistemi agentic in grado di agire per conto degli utenti. In un rapporto tecnico di luglio, Moonshot ha dichiarato di aver utilizzato dati sintetici per addestrare il suo modello Kimi K2.

Anthropic ha affermato che l'attività solleva preoccupazioni per la sicurezza nazionale. L'azienda ha dichiarato che i laboratori stranieri che distillano i modelli americani possono alimentare queste capacità nei sistemi militari, di intelligence e di sorveglianza.

I mercati reagiscono all'avvio del nuovo strumento di sicurezza di Anthropic

Anthropic ha anche lanciato un nuovo strumento di sicurezza per Claude venerdì in una limited research preview. Lo strumento scansiona il codice software alla ricerca di debolezze e suggerisce correzioni. Anthropic prevede di tenere un briefing aziendale martedì con ulteriori annunci di prodotti.

I mercati hanno reagito rapidamente. Le azioni di cybersecurity sono scese per il secondo giorno di lunedì, poiché gli investitori temevano che i nuovi strumenti di IA potessero sostituire i servizi di sicurezza più vecchi.

CrowdStrike è sceso di circa il 9 percento. Anche Zscaler è sceso di circa il 9 percento. Netskope ha registrato un calo di quasi il 10 percento. SailPoint è diminuito del 6 percento. Okta, SentinelOne e Fortinet hanno perso ciascuno più del 4 percento. Palo Alto Networks è sceso del 2 percento.

Cloudflare è sceso del 7 percento dopo i recenti guadagni legati all'interesse per Moltbot. L'ETF iShares Cybersecurity and Tech è sceso di quasi il 4 percento. L'ETF Global X Cybersecurity ha raggiunto il livello più basso da novembre 2023.

La pressione si estende oltre le azioni di sicurezza. Gli strumenti di IA che creano app e siti web da semplici prompt hanno scosso le aziende software quest'anno.

Salesforce ha perso circa un terzo del suo valore. ServiceNow è sceso di oltre il 34 percento. Microsoft è scesa di circa il 20 percento.

Bank of America ha affermato che lo strumento di Anthropic minaccia principalmente le piattaforme di scansione del codice come GitLab e JFrog. GitLab è sceso dell'8 percento venerdì. JFrog è crollato del 25 percento lo stesso giorno.