La Chine oblige tous les systèmes d'IA à suivre les « valeurs socialistes » dans une grande répression

La Chine aannoncé des plans pour renforcer la surveillance des systèmes d'intelligence artificielle qui agissent comme des humains. Les entreprises devront à de informer les utilisateurs lorsqu'ils elles interagissent avec les machines et suivre suivre des directives strictes en matière de contenu et de sécurité.

Les règlements proposés obligeraient les prestataires à informer les utilisateurs qu’ils utilisent une IA dès leur première connexion, puis toutes les deux heures. Ils devraient également avertir les utilisateurs si le système détecte qu’ils pourraient en faire un usage excessif. L’Administration chinoise de l’espace cybernétique a publié le projet de règles le samedi pour consultation publique. Les commentaires sont acceptés jusqu’au 25 janvier.

Les entreprises proposant des IA humanoïdes doivent mettre en place des contrôles de sécurité rigoureux et des examens éthiques. Le système doit également respecter les « valeurs socialistes fondamentales telles que les appelle le gouvernement » et ne peut pas diffuser tout contenu qui menacerait la sécurité nationale.

La Chine équilibre la croissance de l'IA avec des contrôles stricts

Cette démarche montre l'approche de la Chine en matière de développement de l'IA. Le pays pousse fortement sur cette technologie pour aider l'économie à croître et à concurrencer au niveau mondial. Comme rapporté précédemment par Cryptopolitan, le patron de Nvidia, Jensen Huang, a déclaré que la Chine laisserait les États-Unis derrière dans la course à l'IA.

Cependant, les fonctionnaires veulent également un contrôle strict pour éviter les perturbations de la sécurité ou de l'ordre social.

Que exigent donc les nouvelles règles de gouvernance de l’IA ? Les entreprises doivent achever un examen de sécurité et transmettre un rapport aux régulateurs provinciaux d’Internet avant de lancer toute fonctionnalité d’IA humanoïde. Elles doivent également déposer des rapports si leur service atteint 1 million d’utilisateurs inscrits ou 100 000 utilisateurs actifs mensuels.

Beaucoup de gens se concentrent sur le pays qui construira les modèles d'IA les plus avancés. Mais Pékin a déjà pris les devants dans un autre domaine : l'élaboration de règles mondiales sur la manière dont l'IA devrait fonctionner. Cet effort inquiète ceux qui se soucient de la liberté d'expression, car Pékin passe des années à chercher à influencer les normes technologiques internationales et à promouvoir un contrôle strict d'Internet.

La Chine a publié son Plan d'action mondial pour la gouvernance de l'IA plus tôt cette année, le 26 juillet. Cette stratégie détaillée cherche à faire de Pékin la voix principale dans la définition des règles internationales en matière d'IA. Elle comprend des propositions telles que l'Organisation mondiale de coopération en intelligence artificielle. Pékin affirme que l'IA devrait être un « bien public pour la communauté internationale » géré pour la « sécurité » et le partage des avantages.

Les pays démocratiques ont des raisons de douter des plans de la Chine pour la gouvernance mondiale de l'IA. La Chine bloque déjà d'énormes quantités de contenu en ligne par l'intermédiaire de son Grand Firewall. Les experts disent que des contrôles similaires s'appliquent désormais à l'IA. Quiconque utilise DeepSeek, un modèle d'IA chinois majeur, peut voir comment il refuse de discuter de sujets que le gouvernement considère comme sensibles.

La Chine se classe dernière pour les protections de la liberté d'expression

Une recherche publiée en octobre a comparé les politiques en matière d'IA dans six pays. La Chine s'est classée dernière parmi les grandes nations de l'IA en ce qui concerne la protection de la liberté d'expression dans l'IA. Les États-Unis, l'Union européenne, le Brésil, la Corée du Sud et l'Inde ont tous obtenu de meilleurs scores. Les résultats correspondent à ce que les utilisateurs savent déjà. Le Parti communiste chinois façonne l'IA dans le pays pour qu'elle corresponde à ses objectifs politiques et à ses limites sociales.

Pékin a construitun réseau complexe de règles gouvernementales et d'exigences des entreprises qui fonctionnent ensemble comme un système de gouvernance. Celadiffère de l'Union européenne, qui a adopté une loi principale sur l'IA appelée l'AI Act.

La principale réglementation du pays en matière d’IA générative de contenu s’intitule « Mesures provisoires de gestion des services d’IA générative ». Elle exige que les entreprises soutiennent les « valeurs fondamentales du socialisme » et bloquent les contenus susceptibles de remettre en cause le pouvoir gouvernemental, d’encourager la sécession par rapport à la Chine ou de perturber l’ordre économique et social.

La même réglementation disposeque les données d'entraînement doivent répondre à des normes politiques strictes. Bien qu'appelant officiellement à la « vérité », à l'« exactitude » et à l'« objectivité », les règles signifient en réalité que les entreprises ne peuventpas utiliser de données qui remettent en question le système actuel, nuisent à la réputation de la Chine, créent des informations « nuisibles » ou vont à l'encontre des coutumes sociales, de l'éthique ou de la morale.