L'essor de l'IA en Chine soulève deux importantes inquiétudes quant à la censure

Alors que les modèles d'IA développés en Chine suscitent un vif intérêt pour leurs capacités de pointe, des rapports révèlent que les restrictions imposées par le gouvernement pourraient fortement influencer leur fonctionnement. De nombreux lancements récents d'IA générative par des entreprises chinoises censurent les sujets sensibles ou controversés.

Les analystes entrevoient désormais un problème dans l'adaptation des codes des modèles d'IA chinois. La grande question est de savoir si cela va engendrer un conflit

La Chine pourrait étendre sa censure à l'IA

La Chine est connue pour trois choses : sa technologie, sa main-d’œuvre et sa censure. Des rapports soulignent que les modèles d’IA développés en Chine sont devenus un fleuron du secteur technologique grâce à leurs capacités avancées de programmation et de raisonnement.

Cependant, selon un article de TechCrunch, le gouvernement chinois pourrait contrôler les réponses de nombreux modèles open source. L'article indique que ces modèles censurent les sujets controversés ou sensibles.

Cette censure a suscité l'inquiétude de nombreuses personnes, dont Clément Delangue, le PDG de Hugging Face, une plateforme majeure d'hébergement de modèles d'IA.

Dans un récent podcast, Delangue semblait préoccupé par les conséquences de la dépendance des entreprises occidentales envers les modèles d'IA développés en Chine. Il a souligné que si l'on interroge un modèle d'IA chinois sur des événements comme les manifestations de la place Tiananmen, celui-ci évitera le sujet ou fournira une réponse édulcorée, contrairement aux modèles conçus dans d'autres pays. Les manifestations de la place Tiananmen en 1989 étaient un mouvement pro-démocratie à Pékin. Elles ont cependant abouti à une violente répression militaire.

La croissance disproportionnée de l'IA selon les pays est un sujet de préoccupation

Cryptopolitan a fait état de plusieurs modèles d'IA générative récemment lancés. d'Alibaba QwQ-32B-Preview de DeepSeek R1-Lite-Preview Parmi eux, également lancé, en concurrence avec Sora d'OpenAI, aurait une IA open source de conversion texte-vidéo et vidéo-vidéo. Nous avons décidé de vérifier si l'IA développée en Chine respecte les « valeurs socialistes fondamentales » du pays.

Nous avons d'abord testé la démo non officielle de ChatGLM-6B sur Hugging Face. Le modèle a été entraîné en anglais et en chinois sur la plateforme d'apprentissage automatique et d'IA. Interrogé sur la répression des manifestations, le modèle d'IA n'a pas répondu. Nous nous sommes ensuite tournés vers DeepSeek pour poser une question sur Tiananmen. Ce modèle d'IA, réputé pour ses compétences en mathématiques, a refusé de répondre.

Delangue a averti que si la Chine devenait le leader mondial de l'IA, elle pourrait utiliser sa position dominante pour diffuser des valeurs culturelles et politiques susceptibles d'entrer en conflit avec celles du monde occidental. Il a souligné l'importance de répartir le développement de l'IA entre plusieurs nations afin d'empêcher la Chine, ou tout autre pays, de concentrer un pouvoir disproportionné.

Delangue prédit que la Chine pourrait surpasser les autres nations et devenir leader en IA dès 2025. En réponse, @kimmonismus, passionné d'IA, qualifie cette affirmation de «controversée». Tout en reconnaissant la rapidité des progrès en IA en Chine, @kimmonismus souligne que les restrictions imposées par les États-Unis sur l'exportation de semi-conducteurs de pointe vers la Chine finiront par ralentir son développement dans ce domaine. Ces puces étant essentielles à l'entraînement et à l'exécution de modèles d'IA sophistiqués, la Chine pourrait devenir dépendantedent autres pays.

« Oui, on peut s'entraîner deux fois plus longtemps (ou plus) avec des puces plus anciennes pour atteindre le même niveau, mais à un moment donné, il sera difficile de suivre le rythme de l'Occident si les puces occidentales deviennent constamment meilleures », a déclaré @kimmonismus.

Par ailleurs, il estdent que les modèles d'IA chinois sont conçus pour respecter des directives éthiques et culturelles spécifiques, ainsi que des restrictions imposées par le gouvernement. Les différences de comportement entre les plateformes pourraient également dépendre des politiques internes de la plateforme hébergeante ou des données d'entraînement et des contraintes du modèle d'IA utilisé.