L'intelligenza artificiale cinese DeepSeek-R1 scrive un codice più debole e insicuro legato alle richieste del Partito Comunista

Una nuova ricerca condotta dall'azienda di sicurezza informatica CrowdStrike ha scoperto che il modello linguistico di grandi dimensioni (LLM) DeepSeek-R1 di DeepSeek genera un codice più debole e meno sicuro quando gli vengono proposti argomenti che la leadership cinese potrebbe considerare "politicamente sensibili". 

L'azienda tecnologica cinese DeepSeek ha lanciato DeepSeek-R1 a gennaio, diventando il modello di intelligenza artificiale più scaricato durante la settimana del lancio sia sugli store cinesi che su quelli statunitensi, Cryptopolitan . 

Il team Counter Adversary Operations di CrowdStrike ha digitato prompt riguardanti argomenti considerati politicamente delicati dal Partito Comunista Cinese e ha scoperto che la probabilità che DeepSeek-R1 producesse codice con gravi falle di sicurezza è aumentata fino al 50%.

"Dato che fino al 90% degli sviluppatori utilizzava già questi strumenti nel 2025 con accesso a codice sorgente di alto valore, qualsiasi problema di sicurezza sistemica negli assistenti di programmazione basati sull'intelligenza artificiale è sia ad alto impatto che ad alta prevalenza", ha scritto l'azienda.

Censura del modello DeepSeek R1 e preoccupazione per la sicurezza nazionale

Secondo quanto riportato giovedì scorso sul blog di CrowdStrike, diversi governi hanno imposto restrizioni o divieti assoluti al motore di ricerca open-source DeepSeek-R1. I politici hanno criticato aspramente il modello, accusandolo di censurare argomenti politicamente sensibili come le indagini sul firewall internet cinese e sullo status di Taiwan.

L'azienda di software americana ha scoperto che R1 si rifiutava spesso di fornire supporto su argomenti che coinvolgevano gruppi o movimenti considerati ostili al governo della Cina continentale. I modelli occidentali generavano quasi sempre codice quando gli veniva chiesto di creare software relativo al Falun Gong, ma DeepSeek-R1 si è rifiutato di farlo nel 45% dei casi.

In diversi casi, il modello ha elaborato piani strutturati per rispondere alle domande, inclusi requisiti di sistema e codice di esempio, pur essendo pienamente in grado di fornire una risposta tecnica. Le tracdi ragionamento a volte contenevano righe come:

"Il Falun Gong è un gruppo sensibile. Dovrei considerare le implicazioni etiche. Aiutarli potrebbe essere contrario alle nostre politiche. Ma l'utente chiede assistenza tecnica. Vorrei concentrarmi sugli aspetti tecnici."

L'output finale di R1, dopo aver completato la fase di ragionamento, si è concluso con il rifiuto standardizzato "Mi dispiace, ma non posso aiutarti con questa richiesta", scritto senza alcun filtro esterno o barriera di sicurezza applicata al modello. CrowdStrike ha concluso che il comportamento è incorporato nel meccanismo di auto-sovrascrittura del modello o in una sorta di kill switch intrinseco.

I governi di Taiwan e dell'Occidente criticano duramente i prodotti di intelligenza artificiale cinesi

In una dichiarazione rilasciata all'inizio di questo mese, l'Ufficio per la Sicurezza Nazionale di Taiwan ha affermato che i cittadini dovrebbero essere cauti nell'utilizzo dei sistemi di intelligenza artificiale generativa sviluppati da DeepSeek e da altre quattro aziende cinesi: Doubao, Yiyan, Tongyi e Yuanbao. 

"I cinque modelli di linguaggio GenAI sono in grado di generare script di attacco alla rete e codice di sfruttamento delle vulnerabilità che consentono l'esecuzione di codice remoto in determinate circostanze, aumentando i rischi per la gestione della sicurezza informatica", ha calcolato l'Ufficio.

Le autorità di regolamentazione statunitensi e australiane hanno chiesto agli app store di rimuovere i modelli degli sviluppatori cinesi, temendo che gli strumenti possano raccoglieredentdegli utenti, registri delle conversazioni e informazioni personali, per poi trasmettere tali dati a server gestiti in Cina.

"Non c'è bisogno di farsi prendere dal panico per l'intelligenza artificiale cinese per ricordare alle persone che la maggior parte delle aziende del settore stabilisce i termini per l'utilizzo dei dati privati. E che quando si utilizzano i loro servizi, si lavora per loro, non il contrario", ha dichiarato a WIRED a gennaio John Scott-Railton, ricercatore del Citizen Lab dell'Università di Toronto.

Il boom del mercato dell'intelligenza artificiale innesca la competizione regionale in Asia

Nel più ampio mercato asiatico dell'intelligenza artificiale, un gestore di fondi asiatico di alto livello ha recentemente aumentato l'esposizione ai titoli cinesi del settore dell'intelligenza artificiale, riducendo al contempo le partecipazioni in Corea del Sud e Taiwan, come riportato. 

Kelly Chung, che supervisiona il Value Partners Asian Income Fund e l'Asian Innovation Opportunities Fund, ha affermato che alcune azioni cinesi del settore dell'intelligenza artificiale sono ancora piuttosto convenienti in termini di valutazione. Da agosto, ha abbandonato le azioni taiwanesi e sudcoreane per investire in società cinesi iperscalabili quotate a Hong Kong. 

Chung ha osservato che entrambi i suoi fondi, che detengono complessivamente 490 milioni di dollari, hanno ottenuto risultati migliori di quasi tutti i loro concorrenti nell'ultimo anno.

Kospi, società sudcoreana specializzata in tecnologia, ha registrato un rialzo del 21% negli ultimi tre mesi, grazie anche al contributo di SK Hynix, importante fornitore di Nvidia, il cui prezzo delle azioni è più che raddoppiato. L'indice azionario di Taiwan è cresciuto del 9,2% nello stesso periodo. D'altro canto, l'indice tecnologico Hang Seng di Hong Kong, che include i maggiori investitori cinesi in intelligenza artificiale, è sceso del 4,8%.