La Chine révèle ses plans pour nettoyer le contenu IA déformant la littérature classique et les idéologies

La Chine a entrepris une répression de certains contenus générés par l'IA par crainte qu'ils ne minent et ne mettent en danger la littérature classique chinoise et ses idéologies dominantes.

Cela fait suite à une augmentation de l'IA générative, en particulier la propagation de la culture des mèmes, qui, bien qu'humoristique, s'est avérée jouer un grand rôle dans la formation des idées culturelles.

Pékin soutient que les adaptations de l'IA de ses drames télévisés classiques chinois et de sa littérature sont « hautement trompeuses ». Certains parents sont également d'accord et s'inquiètent que les blagues faites par l'IA puissent entraîner une perte de respect pour les classiques traditionnels.

La Chine appelle à un nettoyage des blagues créées par l'IA

Selon SCMP, les mèmes ont été cités comme l'un des « principaux coupables » que les autorités chinoises ont reconnus comme des risques pour leurs idéologies et leur culture. Comme les mèmes, les clips vidéo modifiés principalement destinés à l'humour et à la traction sur les réseaux sociaux se sont également avérés faire partie des défis de la Chine en matière de régulation de l'IA.

Le SCMP a révélé que l'agence qui supervise la diffusion publique – l'Administration nationale de la radio et de la télévision (NRTA) – a émis la semaine dernière un avis appelant ses organes de surveillance à « nettoyer » toutes ces vidéos utilisant l'IA pour créer des caricatures de la culture chinoise.

Le régulateur de la diffusion a noté la tendance croissante à modifier des clips vidéo de séries incluant Rêve dans le pavillon rouge et Voyage au Ouest. Ces séries sont basées sur des romans qui ont été salués comme certains des plus grands chefs-d'œuvre de la littérature chinoise.

La NRTA a ajouté que ces blagues générées par l'IA « cherchent à gagner du trafic sans limites et méprisent les propriétés intellectuelles classiques ».

Elle a ajouté que ces vidéos vont également à l'encontre de l'esprit des œuvres originales et pourraient constituer une violation du droit d'auteur. Selon le régulateur de la diffusion, les vidéos défient également les perceptions culturelles traditionnelles.

Le principal organe de surveillance d'Internet du pays – l'Administration de l'espace cybernétique de Chine – a également répété ses appels à nettoyer le contenu vidéo qui pourrait être nocif pour les jeunes.

Ces appels s'alignent également sur les campagnes en cours de la Chine pour contrôler la désinformation en ligne ainsi que pour nettoyer les informations non appropriées ou contraires aux valeurs traditionnelles.

Les plateformes de médias sociaux en Chine portent toujours les vidéos impliquées 

Caractérisées principalement par l'humour et un ton sarcastique, les vidéos remastérisées par l'IA peuvent encore être trouvées sur les plateformes de médias sociaux chinoises. Certaines des vidéos sont clairement étiquetées comme générées par l'IA, tandis que d'autres ne le sont pas.

Dans l'une desdites vidéos, des personnages de la série, Voyage au Ouest, sont représentés en train de rouler joyeusement à moto lors de leur voyage ardu. La série est basée sur un roman du XVIe siècle sur un moine bouddhiste en voyage vers l'Inde au VIIe siècle.

L'avocat basé à Pékin Gu Yu a déclaré que bien que ces vidéos n'aient pas causé beaucoup de dommages au public, elles pourraient également influencer les personnes peu familières avec les œuvres originales.

« Bien que les nouvelles technologies devraient être abordées avec un certain degré de tolérance pour encourager l'innovation publique, il est également crucial de prendre des mesures contre les œuvres qui déforment les valeurs de base. »

– Yu

Cependant, Yu a souligné que la régulation de l'IA en Chine est encore dans une « phase exploratoire », avec la régulation et la législation qui prennent du retard par rapport aux avancées technologiques. Yu maintient également que sans précédents juridiques suffisants, il pourrait être difficile de créer des lois complètes. Des mesures sont donc introduites lorsque des problèmes surviennent.

La surveillance du contenu IA pourrait être un défi pour la Chine

Selon le SCMP, l'avis de la NRTA est une indication claire de l'un des derniers défis auxquels l'économie asiatique fait face en matière de gouvernance de l'IA.

Le pays est dans une situation délicate, essayant de trouver un équilibre entre l'utilisation de la technologie pour optimiser les opérations et stimuler l'économie, tout en essayant de traiter les impacts négatifs de l'IA, tels que la propagation des deepfakes et de la désinformation. Il doit également faire face à la gestion de son impact potentiel sur la perception publique.

En Chine, la culture traditionnelle est essentielle à la philosophie de gouvernance du Parti communiste. Elle est considérée comme faisant partie de sa campagne de reconstruction culturelle.

Le pays a entrepris plusieurs efforts pour réguler la technologie de l'IA, y compris ses « Dispositions administratives sur le deep synthesis dans les services d'information basés sur Internet », qui ont été mises en œuvre en janvier de l'année dernière. Cela nécessite l'étiquetage du contenu qui pourrait induire le public en erreur ou le confondre.

L'année dernière, la Chine a également pris certaines mesures pour réguler les services d'IA générative et a émis des directives pour les normes d'étiquetage du contenu multimédia.

Certains citoyens chinois soutiennent la régulation du secteur et le nettoyage des vidéos IA des diffuseurs publics. La demande de la NRTA de nettoyer les vidéos remastérisées par l'IA était un sujet tendance au cours de la semaine passée et a déclenché des discussions sur la plateforme de microblogging Weibo, attirant plus de 43,4 millions de vues et plus de 14 000 discussions.

Certes ont fait valoir que sans surveillance, un tel contenu pourrait conduire à une grave « pollution de l'information ». Ils ont soutenu que les jeunes enfants en école primaire qui n'ont pas encore lu les Quatre Grands Romans Classiques Chinois sont déjà exposés à des vidéos amusantes du Roi Singe se battant avec Jia Baoyu. Le Roi Singe et Jia Baoyu sont les protagonistes respectifs de Voyage au Ouest et de Rêve dans le pavillon rouge.

D'autres commentateurs en ligne ont des opinions différentes, soutenant que les fonctionnaires « surveillent trop » limitant la liberté des gens de profiter de « vidéos divertissantes ».