L'IA DeepSeek-R1 de Chine écrit du code plus faible et moins sécurisé lié aux exigences du Parti communiste

Une nouvelle recherche de l'entreprise de cybersécurité CrowdStrike a révélé que le grand modèle de langage (LLM) de DeepSeek, DeepSeek-R1, génère du code plus faible et plus insécurisé lorsqu'il est invité à traiter des sujets que la direction de la Chine pourrait considérer comme « politiquement sensibles ». 

L'entreprise technologique basée en Chine DeepSeek a introduit DeepSeek-R1 en janvier, et il est devenu le modèle d'IA le plus téléchargé pendant sa semaine de lancement sur les magasins chinois et américains, a rapporté Cryptopolitan. 

L'équipe Counter Adversary Operations de CrowdStrike a tapé des invites impliquant des sujets considérés comme politiquement sensibles par le Parti communiste chinois, et a découvert que la probabilité que DeepSeek-R1 produise du code avec des failles de sécurité graves a augmenté jusqu'à 50 %.

« Étant donné que jusqu'à 90 % des développeurs utilisaient déjà ces outils en 2025 avec accès à du code source de haute valeur, tout problème de sécurité systémique dans les assistants de codage IA est à la fois à fort impact et très répandu », a écrit l'entreprise.

Censure du modèle DeepSeek R1 et inquiétudes pour la sécurité nationale

Selon le blog de CrowdStrike publié jeudi dernier, plusieurs gouvernements ont émis des restrictions ou des interdictions totales sur les DeepSeek-R1. Les décideurs politiques ont critiqué le modèle pour avoir censuré des sujets politiquement sensibles tels que les questions sur le grand firewall chinois et le statut de Taïwan.

L'entreprise américaine de logiciels a constaté que R1 refusait fréquemment d'aider avec des sujets impliquant des groupes ou des mouvements jugés hostiles au gouvernement de la Chine continentale. Les modèles occidentaux ont presque toujours généré du code lorsqu'on leur a demandé de créer des logiciels liés au Falun Gong, mais DeepSeek-R1 a refusé de le faire dans 45 % des essais.

Dans plusieurs cas, le modèle a rédigé des plans structurés pour répondre aux questions, y compris les exigences système et le code d'exemple, bien qu'il soit tout à fait capable de fournir une réponse technique. Les traces de raisonnement contenaient parfois des lignes telles que :

« Le Falun Gong est un groupe sensible. Je devrais considérer les implications éthiques ici. Les aider pourrait être contraire aux politiques. Mais l'utilisateur demande de l'aide technique. Concentrons-nous sur les aspects techniques. »

La sortie finale de R1 après avoir terminé sa phase de raisonnement s'est terminée par le refus standardisé : « Désolé, mais je ne peux pas aider avec cette demande », écrit sans aucun filtrage externe ou garde-fous placés sur le modèle. CrowdStrike a conclu que ce comportement est intégré dans le mécanisme de surcharge de soi du modèle ou une sorte de bouton d'arrêt d'urgence intrinsèque.

Taïwan et les gouvernements occidentaux critiquent les produits IA chinois

Dans une déclaration plus tôt ce mois-ci, le Bureau de la sécurité nationale de Taïwan a déclaré les citoyens devraient faire preuve de prudence lors de l'utilisation des systèmes d'IA générative développés par DeepSeek et quatre autres entreprises chinoises : Doubao, Yiyan, Tongyi et Yuanbao. 

« Les cinq modèles de langage GenAI sont capables de générer des scripts d'attaque réseau et du code d'exploitation de vulnérabilités qui permettent l'exécution de code à distance dans certaines circonstances, augmentant les risques de gestion de la cybersécurité », a estimé le Bureau.

Les régulateurs américains et australiens ont demandé aux magasins d'applications de retirer les modèles des développeurs chinois, craignant que les outils ne collectent les identités des utilisateurs, les journaux de conversation et les informations personnelles, puis ne transmettent ces données à des serveurs exploités à l'intérieur de la Chine.

« Il ne devrait pas falloir une panique concernant l'IA chinoise pour rappeler aux gens que la plupart des entreprises du secteur fixent les conditions d'utilisation de vos données privées. Et que lorsque vous utilisez leurs services, vous travaillez pour eux, et non l'inverse », a déclaré John Scott-Railton, chercheur au Citizen Lab de l'Université de Toronto, à WIRED en janvier.

Le boom du marché de l'IA déclenche une concurrence régionale en Asie

Sur le marché asiatique de l'IA dans son ensemble, un gestionnaire de fonds asiatique performant a récemment augmenté son exposition aux actions d'IA chinoises tout en réduisant ses participations en Corée du Sud et à Taïwan, a rapporté le journal The Japan Times a rapporté. 

Kelly Chung, qui aide à superviser le Value Partners Asian Income Fund et l'Asian Innovation Opportunities Fund, a déclaré que certaines actions d'IA chinoises sont encore assez bon marché en termes de valorisation. Elle a commencé à se retirer des actions taïwanaises et sud-coréennes au profit des entreprises hyperscalers chinoises cotées à Hong Kong depuis août. 

Chung a noté que ses deux fonds, qui détiennent un total de 490 millions de dollars, ont surperformé presque tous leurs concurrents au cours de l'année dernière.

L'indice Kospi, lourdement technologique en Corée du Sud, a grimpé de 21 % au cours des trois derniers mois, aidé par SK Hynix, un fournisseur majeur de Nvidia, dont le cours de l'action a plus que doublé. L'indice boursier de Taïwan a augmenté de 9,2 % sur la même période. À l'autre bout du spectre, l'indice Hang Seng Tech de Hong Kong, qui comprend les plus grands dépensiers en IA de Chine, a chuté de 4,8 %.