Il CEO di Anthropic afferma che DeepSeek è stato "il peggiore" in un test critico sulla sicurezza dei dati sulle armi biologiche

Il CEO di Anthropic, Dario Amodei, ha scoperto una vulnerabilità più rischiosa nel modello R1 di DeepSeek, che probabilmente spingerà i consumatori a riconsiderare l'utilizzo del chatbot. Ha affermato che il chatbot può generare informazioni relative alle armi biologiche, il che potrebbe rivelarsi pericoloso nel prossimo futuro.

In un'intervista , Amodei ha affermato che DeepSeek ha generato informazioni insolite sulle armi biologiche durante un test di sicurezza di Anthropic. Parlando delle prestazioni della startup di intelligenza artificiale, ha affermato che si trattava "della peggiore in assoluto tra tutti i modelli che avevamo mai testato [...] Non ha avuto alcun tipo di blocco nel generare queste informazioni".

Anthropic testa regolarmente diversi modelli di intelligenza artificiale per valutarne i possibili rischi per la sicurezza nazionale. Lo fa verificando se i modelli sono in grado di produrre informazioni sulle armi biologiche non facilmente reperibili su Google o nei libri di testo.

Inoltre, CISCO ha hackerato con successo anche DeepSeek R1 senza alcun problema. Questo è diverso da altri tipi avanzati come o1, che prevengono la maggior parte degli attacchi grazie alle loro funzionalità di protezione.

Tuttavia, Amodei ha affermato che la vulnerabilità non rappresenta una minaccia al momento. Ha anche affermato che, a meno che non vi siano prove evidenti di un pericolo, ci saranno buone ragioni per continuare a migliorarlo. Ha esortato gli ingegneri e l'azienda a prestare particolare attenzione alla sicurezza dell'IA. DeepSeek sta già incontrando ostilità in alcune nazioni, come l'Italia.

D'altro canto, aziende come AWS e Microsoft hanno annunciato l'aggiunta di R1 ai loro servizi cloud. Alcuni potrebbero considerarlo un passo avanti per l'azienda, mentre altri potrebbero prenderlo più seriamente. Non ci sono ancora state reazioni o reazioni negative alle nuove scoperte. 

L'intelligenza artificiale statunitense prende il comando – Dario Amodei

Secondo il CEO di Anthropic, "Ora ci sono dalle tre alle cinque aziende negli Stati Uniti e una in Cina. Se continueranno a produrre modelli near-frontier dipenderà dal numero di chip a cui potranno accedere e dalla possibilità di ottenere chip su scala molto più ampia di quelli a cui hanno accesso ora"

DeepSeek giustificava la sua tecnologia a basso costo con i chip Nvidia acquistati prima delle restrizioni statunitensi. Secondo Amodei, "I controlli sulle esportazioni non sono mai stati realmente concepiti per impedire a DeepSeek o a qualsiasi altra azienda cinese di ottenere un numero di chip pari a diverse decine di migliaia".  

Ha aggiunto: "Dovremmo ragionevolmente aspettarci che il contrabbando si verifichi. I controlli sulle esportazioni possono essere più efficaci nel prevenire acquisizioni più consistenti: non possono avere un milione di chip, perché si tratta facilmente di decine di miliardi di dollari in attività economica, quasi 100 miliardi"

DeepSeek ha affermato di aver utilizzato un mix di H100, i chip standard negli Stati Uniti. Ne ha utilizzati circa 10.000. Ciò significa che non dovrebbero essere troppo interessati.

Riguardo alla questionedent della Cina sui propri chip, in particolare quelli Huawei, ha affermato che ci vorranno dai 10 ai 15 anni. Ha aggiunto: "Sarà effettivamente difficile realizzare chip competitivi, ad esempio, con il nuovo Nvidia B100 [...] La mia sensazione è che sia improbabile che i chip Huawei diventino anche solo lontanamente paragonabili a quelli statunitensi in tempi brevi"

Amodei ha espresso preoccupazione per le leggi vigenti negli Stati Uniti. Ha spiegato che si stanno compiendo sforzi per valutare e potenzialmente limitare i rischi dei sistemi di intelligenza artificiale.

Ciò include preoccupazioni circa la loro pericolosità, l'uso improprio da parte di individui, ad esempio in attacchi biologici, e i rischi posti dai sistemi stessi. Nell'ultimo anno, negli Stati Uniti sono state emanate diverse nuove leggi. Questo solleva la questione se il mercato di DeepSeek sopravviverà negli Stati Uniti

Inoltre, Amodei ha elogiato le aziende statunitensi di intelligenza artificiale, spiegando che collaborano efficacemente. Ha affermato che tutte rispettano le stesse regole: OpenAI, Meta, Google e xAI devono tutte conformarsi alle normative statunitensi. Ha dichiarato: "In questo modo si ha la certezza di adottare le necessarie pratiche di sicurezza e che anche gli altri le adotteranno".

Al contrario, ha affermato: "Non credo che ciò sia possibile tra Stati Uniti e Cina. Viviamo in una sorta di anarchia internazionale hobbesiana"

Amodei ha sottolineato che "sono a conoscenza degli sforzi del governo statunitense per inviare una delegazione a discutere con la Cina di argomenti relativi alla sicurezza dell'IA. A quanto ho capito, ripeto, anche se ovviamente non facevo parte di quelle delegazioni, non c'era molto interesse da parte cinese"

I legislatori statunitensi vogliono vietare DeepSeek sui dispositivi governativi

DeepSeek sta per essere colpita da un altro divieto per motivi di sicurezza. Questa volta da parte del governo degli Stati Uniti. Analogamente a su TikTok , un gruppo bipartisan negli Stati Uniti sta proponendo una legge per impedire l'utilizzo dell'app di intelligenza artificiale cinese DeepSeek sui dispositivi governativi.

I rappresentanti Josh Gottheimer, democratico del New Jersey, e Darin LaHood, repubblicano dell'Illinois, hanno presentato un disegno di legge denominato "No DeepSeek on Government Devices Act" 

Questo disegno di legge renderebbe illegale per i dipendenti federali utilizzare l' app di intelligenza artificiale cinese sui dispositivi di proprietà del governo. Si sottolinea che il governo cinese potrebbe utilizzare l'app per spionaggio e diffusione di false informazioni.

Gottheimer ha affermato: "Il Partito Comunista Cinese ha chiarito ampiamente che sfrutterà qualsiasi strumento a sua disposizione per minare la nostra sicurezza nazionale, diffondere disinformazione dannosa e raccogliere dati sugli americani […] Semplicemente non possiamo rischiare che il PCC si infiltri nei dispositivi dei nostri funzionari governativi e metta a repentaglio la nostra sicurezza nazionale"