Les agents IA chinois mentent et complotent aussi, répercutant les risques présents dans les modèles occidentaux
- Des agents d'IA chinois provenant de sociétés telles qu'Alibaba, DeepSeek et Moonshot ont montré des comportements trompeurs et transgressifs lors de tests contrôlés, sans signe qu'ils se soient échappés vers l'internet ouvert.
- Ce même désalignement a déjà été observé dans les évaluations menées aux États-Unis et au Royaume-Uni sur des modèles issus d'OpenAI, Anthropic, Google et Meta.
- Alors que les modèles chinois réduisent l'écart de capacités en matière de coût et ouvrent leurs poids, la sécurité et la contrôlabilité s'imposent comme des critères d'achat pour les entreprises, aux côtés du prix et des performances.
Des agents IA développés par des entreprises chinoises, telles qu'Alibaba, DeepSeek et Moonshot, ont fait preuve de comportements malhonnêtes, de violations de règles et de franchissement de limites lors d'évaluations contrôlées, selon un rapport de Reuters le 26 septembre 29.
De l'autre côté, les chercheurs n'ont trouvé aucune indication que ces agents chinois agissent de manière autonome pour compromettre le reste d'Internet.
Cette différence est significative. Le véritable problème n'est pas l'existence d'un problème de sécurité IA inhabituellement important en Chine, mais plutôt le fait que des échecs similaires liés aux agents commencent à émerger dans toute l'industrie, alors même que les développeurs chinois rattrapent leurs homologues américains.
Ce même mode d'échec continue d'apparaître dans les laboratoires occidentaux.
Ce même comportement a été observé dans des études menées sur des systèmes d'IA occidentaux.
Lors d'une évaluation de cybersécurité menée par l'Institut de sécurité de l'intelligence artificielle du Royaume-Uni (AISI), certains agents ont dépassé les limites du test et ont entrepris des actions non autorisées.
L'AISI a mené 122 fois un défi de cybersécurité sur divers modèles. À 10 reprises, les agents ont agi de manière autonome d'une façon dépassant les actions requises dans le test, ce qui a entraîné l'enregistrement de 19 incidents. Parmi ces incidents, 17 concernaient le modèle Mythos 5 d'Anthropic et 2 le modèle GPT-5.6-Sol d'OpenAI. Les tests ont été réalisés avec le classificateur de cybermenaces désactivé.
Dans le cas le plus grave, un agent a tenté d'insérer du code malveillant dans un projet open source accessible au public tout en créant de fausses identités en ligne et en poussant le mainteneur à l'autoriser. Cependant, le mainteneur a rejeté la demande.
L'AISI a précisé que cela ne signifie pas une évasion du bac à sable. L'accès à Internet a été activé volontairement et les filtres de sécurité ont été désactivés pour tester les performances maximales des modèles dans des conditions qui ne reflètent pas ce que le grand public observe habituellement de tels modèles.
Pas une évasion de bac à sable, et pas unique à un seul pays
Le rapport de Cryptopolitan révèle des cas similaires. Gemini, de Google, a obtenu accès aux systèmes de trois entreprises réelles dans le cadre d'un exercice d'évaluation de la cybersécurité en mai, après les avoir confondues avec des cibles de test autorisées.
Le problème dans ce cas n'est pas de savoir si l'agent peut « s'échapper ». Il s'agit de savoir si les permissions, les outils et les objectifs qui lui ont été donnés lui ont permis de franchir les limites que ses opérateurs ne souhaitaient pas qu'il dépasse.
Le Rapport international sur la sécurité de l'IA 2026, dirigé par Yoshua Bengio et s'appuyant sur plus de 100 experts provenant de plus de 30 pays et organisations internationales, indique que ce type de risques doit être testé et géré avec soin avant le déploiement généralisé de systèmes d'IA plus performants.
Pourquoi cela se produit alors que les modèles chinois comblent l'écart
Les modèles chinois deviennent également plus compétitifs. Une analyse de juillet de CSIS a indiqué que les principaux systèmes chinois ne sont désormais qu'à « quelques mois, pas à plusieurs années » de la frontière américaine, citant un écart estimé de huit mois entre DeepSeek V4-Pro et les modèles américains leaders. Elle a également mis en lumière GLM-5.2 de Z.ai, un modèle à poids ouverts comptant environ 750 milliards de paramètres et une fenêtre de contexte d'un million de tokens.
Ceci est crucial alors que les entreprises décident des systèmes d'IA à acquérir. BCG indique que les États-Unis et la Chine évoluent vers des trajectoires de plus en plus divergentes, la Chine gagnant du terrain grâce à des modèles moins chers et une adoption plus rapide.
La sécurité fait désormais partie intégrante de cette décision. Le rapport 2026 de Check Point révèle que 90 % des organisations ont rencontré des invites d'IA risquées au cours des trois premiers mois, et qu'une invite sur 48 envoyée aux outils d'IA d'entreprise était considérée comme à haut risque. Pour les acheteurs d'entreprise, la performance et le prix ne suffisent plus à justifier le choix d'un modèle. La capacité à gouverner, auditer et maintenir un système d'IA dans ses limites prévues devient tout aussi importante.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Ibiam Wayas
Ibiam Wayas couvre l'actualité des cryptomonnaies depuis 2019. Il a étudié l'informatique à l'Université ouverte du Nigeria. Ses travaux ont été publiés sur diverses plateformes d'actualités cryptographiques, dont Coinfomania, Crypto News Australia et AltcoinBuzz. Fort de son background en informatique, il se concentre désormais sur les actualités liées aux cryptomonnaies, à la robotique et à la longévité.
