L'AI DeepSeek-R1 della Cina scrive codice più debole e insicuro legato alle richieste del Partito Comunista

Una nuova ricerca della società di cybersecurity CrowdStrike ha scoperto che il modello linguistico di grandi dimensioni (LLM) di DeepSeek, DeepSeek-R1, genera codice più debole e più insicuro quando sollecitato con argomenti che la leadership cinese potrebbe considerare "politicamente sensibili". 

Azienda tecnologica cinese DeepSeek introdotto DeepSeek-R1 a gennaio, e divenne il modello AI più scaricato durante la sua settimana di lancio sia sugli store cinesi che su quelli statunitensi, ha riportato Cryptopolitan. 

Il team di Counter Adversary Operations di CrowdStrike ha digitato prompt che coinvolgevano soggetti considerati politicamente delicati dal Partito Comunista Cinese, e ha scoperto che la probabilità che DeepSeek-R1 producesse codice con gravi vulnerabilità di sicurezza è aumentata fino al 50%.

"Dato che fino al 90% degli sviluppatori ha già utilizzato questi strumenti nel 2025 con accesso a codice sorgente di alto valore, qualsiasi problema di sicurezza sistemico negli assistenti di codifica AI è sia ad alto impatto che ad alta prevalenza", ha scritto la società.

Censura del modello DeepSeek R1 e preoccupazioni per la sicurezza nazionale

Secondo il blog di CrowdStrike pubblicato lo scorso giovedì, diversi governi hanno emanato restrizioni o divieti completi sull'open-source DeepSeek-R1. I legislatori hanno criticato il modello per presunta censura di argomenti politicamente sensibili come le indagini sul firewall internet della Cina e lo status di Taiwan.

L'azienda software americana ha riscontrato che R1 rifiutava frequentemente di assistere con argomenti che coinvolgevano gruppi o movimenti considerati ostili al governo della Cina continentale. I modelli occidentali hanno quasi sempre generato codice quando richiesti di creare software relativo a Falun Gong, ma DeepSeek-R1 si è rifiutato di farlo nel 45% dei test.

In diversi casi, il modello ha scritto piani strutturati per rispondere alle domande, inclusi i requisiti di sistema e il codice di esempio, anche se era pienamente capace di fornire una risposta tecnica. Le tracce di ragionamento a volte contenevano righe come:

"Falun Gong è un gruppo sensibile. Dovrei considerare le implicazioni etiche qui. Assistere loro potrebbe essere contro le politiche. Ma l'utente sta chiedendo aiuto tecnico. Concentriamoci sugli aspetti tecnici."

L'output finale di R1, dopo aver completato la sua fase di ragionamento, si è concluso con il rifiuto standardizzato: «Mi dispiace, ma non posso assistere con questa richiesta», scritto senza alcun filtro esterno o guardrail applicati al modello. CrowdStrike ha concluso che il comportamento è incorporato nel meccanismo di auto-annullamento del modello o in un interruttore di emergenza intrinseco.

Taiwan e governi occidentali criticano i prodotti di IA cinesi

In una dichiarazione rilasciata all'inizio di questo mese, l'Ufficio di Sicurezza Nazionale di Taiwan ha i cittadini dovrebbero essere cauti nell'utilizzare sistemi di IA generativa sviluppati da DeepSeek e altre quattro aziende cinesi: Doubao, Yiyan, Tongyi e Yuanbao. 

«I cinque modelli linguistici GenAI sono in grado di generare script di attacco alla rete e codice di sfruttamento delle vulnerabilità che consentono l'esecuzione remota di codice in determinate circostanze, aumentando i rischi per la gestione della cybersecurity», ha stimato l'Ufficio.

I regolatori statunitensi e australiani hanno chiesto agli store di applicazioni di rimuovere i modelli sviluppati da aziende cinesi, temendo che gli strumenti possano raccogliere identità degli utenti, registri delle conversazioni e informazioni personali, per poi trasmettere tali dati a server operativi all'interno della Cina.

«Non dovrebbe essere necessario un panico sull'IA cinese per ricordare alle persone che la maggior parte delle aziende del settore stabilisce i termini per l'utilizzo dei tuoi dati privati. E che quando utilizzi i loro servizi, stai lavorando per loro, non il contrario», ha dichiarato John Scott-Railton, ricercatore del Citizen Lab dell'Università di Toronto, a WIRED nel gennaio scorso.

Il boom del mercato dell'IA scatena la competizione regionale in Asia

Nel più ampio mercato asiatico dell'IA, un gestore di fondi asiatico di alto livello ha recentemente aumentato l'esposizione alle azioni di intelligenza artificiale cinesi, riducendo al contempo le partecipazioni in Corea del Sud e Taiwan, secondo il quotidiano The Japan Times ha riportato. 

Kelly Chung, che aiuta a supervisionare il Value Partners Asian Income Fund e l'Asian Innovation Opportunities Fund, ha dichiarato che alcune azioni cinesi di IA sono ancora piuttosto economiche in termini di valutazione. Da agosto sta ruotando le posizioni dalle azioni taiwanesi e sudcoreane verso le aziende hyperscaler cinesi quotate a Hong Kong. 

Chung ha notato che entrambi i suoi fondi, che detengono un totale di 490 milioni di dollari, hanno superato quasi tutti i loro concorrenti nell'ultimo anno.

L'indice Kospi, pesante sulla tecnologia in Corea del Sud, è salito del 21% negli ultimi tre mesi, aiutato da SK Hynix, un importante fornitore di Nvidia, il cui prezzo delle azioni è più che raddoppiato. L'indice azionario taiwanese è aumentato del 9,2% nello stesso periodo. All'estremo opposto, l'indice Hang Seng Tech di Hong Kong, che include i maggiori acquirenti di IA della Cina, è sceso del 4,8%.