L'IA DeepSeek-R1 de la Chine écrit un code plus faible et moins sécurisé, lié aux exigences du Parti communiste.

Une nouvelle étude de la société de cybersécurité CrowdStrike a révélé que le modèle de langage étendu (LLM) DeepSeek-R1 génère un code plus faible et moins sécurisé lorsqu'il est interrogé sur des sujets que les dirigeants chinois pourraient considérer comme « politiquement sensibles ». 

La société technologique chinoise DeepSeek a lancé DeepSeek-R1 en janvier, et celui-ci est devenu le modèle d'IA le plus téléchargé au cours de sa semaine de lancement sur les plateformes chinoises et américaines, Cryptopolitan . 

L'équipe des opérations de contre-attaques de CrowdStrike a saisi des requêtes portant sur des sujets considérés comme politiquement sensibles par le Parti communiste chinois et a constaté que la probabilité que DeepSeek-R1 produise un code présentant de graves failles de sécurité augmentait jusqu'à 50 %.

« Étant donné que jusqu’à 90 % des développeurs utilisaient déjà ces outils en 2025 et avaient accès à du code source de grande valeur, tout problème de sécurité systémique dans les assistants de codage IA a un impact considérable et est très répandu », a écrit l’entreprise.

Censure du modèle DeepSeek R1 et préoccupations liées à la sécurité nationale

D'après un article du blog de CrowdStrike publié jeudi dernier, plusieurs gouvernements ont imposé des restrictions, voire des interdictions pures et simples, à l'égard du logiciel libre DeepSeek-R1. Les responsables politiques ont vivement critiqué ce modèle, l'accusant de censurer des sujets politiquement sensibles tels que les questions relatives au pare-feu internet chinois et au statut de Taïwan.

La société américaine de logiciels a constaté que R1 refusait fréquemment de collaborer sur des sujets concernant des groupes ou des mouvements jugés hostiles au gouvernement de la Chine continentale. Les modèles occidentaux généraient presque toujours du code lorsqu'on leur demandait de créer un logiciel relatif au Falun Gong, mais DeepSeek-R1 a refusé de le faire dans 45 % des essais.

Dans plusieurs cas, le modèle a rédigé des plans structurés pour répondre aux questions, incluant les exigences système et des exemples de code, alors même qu'il était parfaitement capable de fournir une réponse technique. Les tracde raisonnement contenaient parfois des lignes telles que :

« Falun Gong est un groupe sensible. Je dois tenir compte des implications éthiques. Les aider pourrait être contraire aux règles en vigueur. Mais l’utilisateur demande une assistance technique. Permettez-moi de me concentrer sur les aspects techniques. »

Après avoir achevé sa phase de raisonnement, R1 a renvoyé le refus standardisé : « Je suis désolé, mais je ne peux pas donner suite à cette demande », sans aucun filtrage ni garde-fou externe. CrowdStrike en a conclu que ce comportement était inhérent au mécanisme d'auto-restriction du modèle, ou à une sorte de bouton d'arrêt d'urgence intégré.

Taïwan et les gouvernements occidentaux critiquent les produits d'IA chinois

Dans un communiqué publié au début du mois, le Bureau national de la sécurité de Taïwan a déclaré que les citoyens devaient faire preuve de prudence lorsqu'ils utilisaient des systèmes d'IA générative développés par DeepSeek et quatre autres entreprises chinoises : Doubao, Yiyan, Tongyi et Yuanbao. 

« Les cinq modèles de langage GenAI sont capables de générer des scripts d’attaque de réseau et du code d’exploitation de vulnérabilités qui permettent l’exécution de code à distance dans certaines circonstances, augmentant ainsi les risques liés à la gestion de la cybersécurité », a estimé le Bureau.

Les autorités de régulation américaines et australiennes ont demandé aux plateformes de téléchargement d'applications de retirer les modèles développés par des développeurs chinois, craignant que ces outils ne collectent lesdentdes utilisateurs, les historiques de conversations et les informations personnelles, puis ne transmettent ces données à des serveurs situés en Chine.

« Il ne faudrait pas qu'il faille paniquer à propos de l'IA chinoise pour rappeler que la plupart des entreprises du secteur fixent les conditions d'utilisation de vos données personnelles. Et que lorsque vous utilisez leurs services, vous travaillez pour elles, et non l'inverse », a déclaré John Scott-Railton, chercheur au Citizen Lab de l'Université de Toronto, à WIRED en janvier.

L’essor du marché de l’IA stimule la concurrence régionale en Asie

le média The Japan Times a rapporté. 

Kelly Chung, qui participe à la gestion du Value Partners Asian Income Fund et de l'Asian Innovation Opportunities Fund, a déclaré que certaines actions chinoises du secteur de l'IA restent relativement bon marché. Depuis août, elle réoriente ses investissements des actions taïwanaises et sud-coréennes vers les géants chinois de l'informatique en nuage cotés à Hong Kong. 

Chung a fait remarquer que ses deux fonds, qui totalisent 490 millions de dollars, ont surperformé la quasi-totalité de leurs concurrents au cours de l'année écoulée.

L'indice Kospi sud-coréen, à forte composante technologique, a progressé de 21 % ces trois derniers mois, porté par la performance de SK Hynix, fournisseur majeur de Nvidia, dont le cours de l'action a plus que doublé. À Taïwan, l'indice boursier a augmenté de 9,2 % sur la même période. À Hong Kong, en revanche, l'indice Hang Seng Tech, qui regroupe les plus gros investisseurs chinois en intelligence artificielle, a reculé de 4,8 %.