Il CEO di Anthropic afferma che DeepSeek è stato il "peggiore" in un test critico sulla sicurezza dei dati sulle armi biologiche

Il CEO di Anthropic, Dario Amodei, ha scoperto una vulnerabilità più rischiosa nel modello R1 di DeepSeek che probabilmente porterà i consumatori a riconsiderare l'uso del chatbot. Ha affermato che il chatbot può generare informazioni relative ad armi biologiche, il che potrebbe essere pericoloso nel prossimo futuro.

In un intervista, Amodei ha detto che DeepSeek ha generato informazioni insolite sulle armi biologiche durante un test di sicurezza di Anthropic. Mentre parlava delle prestazioni dell'avviamento di IA, ha menzionato che è, "il peggiore di praticamente qualsiasi modello che avessimo mai testato […] Non aveva assolutamente nessun blocco contro la generazione di queste informazioni."

Anthropic testa regolarmente diversi modelli di IA per valutarne i possibili rischi per la sicurezza nazionale. Lo fa verificando se i modelli possono produrre informazioni sulle armi biologiche non facilmente reperibili su Google o nei libri di testo.

Inoltre, CISCO ha anche hackerato con successo DeepSeek R1 senza alcun fallimento. Questo è diverso da altri tipi avanzati come o1, che prevengono la maggior parte degli attacchi con le loro funzionalità protettive.

Tuttavia, Amodei ha detto che la debolezza non è una minaccia al momento. Ha anche menzionato che, a meno che non ci sia una prova chiara di pericolo, ci sarà una buona ragione per continuare a migliorarlo. Ha esortato gli ingegneri e l'azienda a prestare reale attenzione alla sicurezza dell'IA. DeepSeek sta già affrontando ostilità in alcune nazioni, come Italia.

D'altra parte, aziende come AWS e Microsoft hanno annunciato che stanno aggiungendo R1 ai loro servizi cloud. Alcuni potrebbero vedere questo come parte dell'apprendimento aziendale, mentre altri potrebbero prenderlo più seriamente. Al momento non ci sono state risposte o reazioni negative alle nuove scoperte. 

L'IA statunitense prende il sopravvento – Dario Amodei

Secondo il CEO di Anthropic, "Ora ci sono da tre a cinque aziende negli Stati Uniti e una in Cina. Se continueranno a produrre modelli quasi all'avanguardia dipenderà da quanti chip riescono ad accedere e se possono accedere a chip su una scala molto più ampia di quelli a cui hanno avuto accesso finora."

DeepSeek ha giustificato la sua tecnologia economica sui chip Nvidia acquistati prima delle restrizioni statunitensi. Secondo Amodei, "I controlli all'esportazione non sono mai stati davvero progettati per impedire a DeepSeek o ad altre aziende cinesi di ottenere il numero di chip che avevano a livello di qualche decina di migliaia."

Ha aggiunto: "Dovremmo ragionevolmente aspettarci che avvengano contrabbandi. I controlli all'esportazione possono essere più efficaci nel prevenire acquisizioni di grandi dimensioni - non possono avere un milione di chip perché ciò comporterebbe facilmente decine di miliardi di attività economica, avvicinandosi ai 100 miliardi."

DeepSeek ha affermato di aver utilizzato una miscela di H100s, che sono i chip standard negli Stati Uniti. Ne ha utilizzati circa 10.000. Questo significa che non dovrebbero essere troppo colpiti.

Riguardo alla questione dell'indipendenza della Cina dai propri chip, in particolare quelli di Huawei, ha detto che ci vorrebbero da 10 a 15 anni. Ha aggiunto: "Sarà effettivamente difficile produrre chip competitivi rispetto, ad esempio, ai nuovi Nvidia B100 […] La mia impressione è che sia improbabile che i chip di Huawei diventino da qualche parte paragonabili ai chip statunitensi nel prossimo futuro."

Amodei ha espresso preoccupazione per le leggi negli Stati Uniti. Ha spiegato che si stanno compiendo sforzi per valutare e potenzialmente limitare i rischi dei sistemi di IA.

Questo include preoccupazioni sui loro pericoli, sull'uso improprio da parte di individui, ad esempio negli attacchi biologici e sui rischi posti dai sistemi stessi. Nell'ultimo anno ci sono state diverse nuove leggi negli Stati Uniti. Questo pone la domanda: il mercato di DeepSeek sopravviverà negli Stati Uniti?

Inoltre, Amodei ha elogiato le aziende di IA statunitensi mentre spiegava che lavorano bene insieme. Ha detto che seguono tutte le stesse regole. OpenAI, Meta, Google, e xAI devono tutte conformarsi alle regolamentazioni statunitensi. Ha detto: "Puoi sapere che stai impegnando pratiche di sicurezza necessarie e altri si impegneranno anche loro."

Al contrario, ha detto: "Non penso che questo sia possibile tra gli Stati Uniti e la Cina. Siamo in una sorta di anarchia internazionale hobbesiana."

Amodei ha portato alla luce che, "Sono a conoscenza degli sforzi del governo degli Stati Uniti per inviare una delegazione a parlare con la Cina su argomenti relativi alla sicurezza dell'IA. La mia comprensione, di nuovo, ovviamente non facevo parte di quelle delegazioni, è che non c'era molto interesse da parte cinese."

I legislatori statunitensi vogliono bandire DeepSeek dai dispositivi governativi

DeepSeek sta per essere colpito da un altro divieto per motivi di sicurezza. Questa volta dal governo degli Stati Uniti. Simile alla regola TikTok, un gruppo bipartitico negli Stati Uniti sta suggerendo una legge per impedire l'uso dell'app di IA cinese DeepSeek sui dispositivi governativi.

I rappresentanti Josh Gottheimer, un democratico del New Jersey, e Darin LaHood, un repubblicano dell'Illinois, hanno presentato un disegno di legge chiamato "No DeepSeek on Government Devices Act" (Nessun DeepSeek sui dispositivi governativi). 

Questo disegno di legge renderebbe illegale per i lavoratori federali usare l'app di IA cinese sui dispositivi di proprietà del governo. Hanno sottolineato che il governo cinese potrebbe usare l'app per spiare e diffondere informazioni false.

Gottheimer ha detto: "Il Partito Comunista Cinese ha reso chiaramente che sfrutterà qualsiasi strumento a sua disposizione per minare la nostra sicurezza nazionale, diffondere disinformazione dannosa e raccogliere dati sugli americani […] Non possiamo semplicemente rischiare che il PCC si infiltrasse nei dispositivi dei nostri funzionari governativi e mettesse in pericolo la nostra sicurezza nazionale."