La Chine a annoncé son intention de renforcer la surveillance des systèmes d'intelligence artificielle capables de se comporter comme des humains. Les entreprises devront informer les utilisateurs lorsqu'ils interagissent avec des machines et respecter des directives strictes en matière de contenu et de sécurité.
Le projet de réglementation obligerait les fournisseurs à informer les utilisateurs de l' utilisation de l'IA lors de leur première connexion, puis toutes les deux heures. Ils devraient également les avertir si le système détecte une dépendance excessive. L'Administration du cyberespace de Chine a publié ce projet de réglementation samedi pour consultation publique. Les commentaires sont acceptés jusqu'au 25 janvier.
à l'échelle humaine doivent mettre en place des contrôles de sécurité et des évaluations éthiques rigoureux. Ces systèmes tron également respecter ce que le gouvernement appelle les « valeurs socialistes fondamentales » et ne peuvent diffuser aucune information susceptible de menacer la sécurité nationale.
La Chine concilie croissance de l'IA et contrôles stricts
Cette initiative illustre l'approche de la Chine en matière de développement de l'IA. Le pays investit massivement dans cette technologie pour stimuler sa croissance économique et rester compétitif à l'échelle mondiale. Comme l'a précédemment rapporté Cryptopolitan , le PDG de Nvidia, Jensen Huang, a déclaré que la Chine distancerait les États-Unis dans la course à l'IA.
Cependant, les autorités souhaitent également un contrôle strict afin d'éviter toute perturbation de la sécurité ou de l'ordre social.
Quelles sont donc les exigences des nouvelles règles de gouvernance de l'IA ? Les entreprises doivent réaliser un audit de sécurité et soumettre un rapport aux autorités provinciales de régulation d'Internet avant de déployer toute fonctionnalité d'IA simulant un comportement humain. Elles devront également déposer un rapport si leur service atteint un million d'utilisateurs inscrits ou 100 000 utilisateurs actifs mensuels.
Nombreux sont ceux qui s'interrogent sur le pays qui développera les modèles d'IA les plus avancés. Mais Pékin a déjà pris les devants dans un autre domaine : l'élaboration de règles encadrant le fonctionnement de l'IA. Cette initiative inquiète les défenseurs de la liberté d'expression, car Pékin s'efforce depuis des années d' influencer les normes technologiques internationales et de promouvoir un contrôle strict d'Internet.
La Chine a publié son Plan d'action pour la gouvernance mondiale de l'IA le 26 juillet dernier. Cette stratégie détaillée vise à faire de Pékin un majeur dans l'établissement des règles internationales en matière d'IA. Elle propose notamment la création d' une Organisation mondiale de coopération en matière d'intelligence artificielle (WICA). Pékin affirme que l'IA devrait être un « bien public pour la communauté internationale », gérée dans un souci de « sécurité » et de partage des bénéfices.
Les pays démocratiques ont des raisons de douter des projets de la Chine concernant la gouvernance mondiale de l'IA. La Chine bloque déjà une quantité considérable de contenus en ligne via son Grand Pare-feu. Selon les experts, des contrôles similaires s'appliquent désormais à l'IA. Quiconque utilise DeepSeek, un important modèle d'IA chinois, peut constater son refus d'aborder les sujets jugés sensibles par le gouvernement.
La Chine se classe dernière en matière de protection de la liberté d'expression.
Une étude publiée en octobre comparait les politiques d'IA dans six pays. La Chine se classait dernière parmi les grandes nations de l'IA en matière de protection de la liberté d'expression dans ce domaine. Les États-Unis, l'Union européenne, le Brésil, la Corée du Sud et l'Inde ont obtenu de meilleurs résultats. Ces conclusions confirment ce que les utilisateurs savent déjà : le Parti communiste chinois façonne l'IA dans le pays pour servir ses objectifs politiques et ses limites sociales.
Pékin a mis en place un réseau complexe de réglementations gouvernementales et d'exigences d'entreprises qui fonctionnent de concert pour former un système de gouvernance. Cela diffère de l'Union européenne, qui a adopté une loi-cadre sur l'IA, appelée AI Act.
La principale réglementation du pays concernant l'IA créatrice de contenu s'intitule « Mesures transitoires pour la gestion des services d'IA générative ». Elle exige des entreprises qu'elles soutiennent les « valeurs socialistes fondamentales » et bloquent les contenus susceptibles de remettre en cause le pouvoir gouvernemental, d'encourager la rupture avec la Chine ou de perturber l'ordre économique et social.
Ce même règlement stipule que les données de formation doivent respecter des normes politiques strictes. Bien qu'il prône officiellement la « vérité », l'« exactitude » et l'« objectivité », ce règlement interdit en réalité aux entreprises d' utiliser des données qui remettent en cause le système en place, portent atteinte à la réputation de la Chine, créent des informations « nuisibles » ou contreviennent aux coutumes, à l'éthique ou à la morale.
