L'Administration du cyberespace de Chine envisage d'étiqueter tous les contenus créés par intelligence artificielle dans le cadre d'un nouveau projet de réglementation. Selon certaines sources, cet organisme de régulation, qui est l'autorité chinoise en charge d'Internet, a déjà élaboré un projet de plan demandant à toutes les plateformes numériques et aux fournisseurs de services en ligne d'apposer le label « IA » sur les contenus générés par l'IA.
Dans un communiqué du 14 septembre, l'autorité de régulation a déclaré que cette mesure permettrait de normaliser le dent contenu généré par l'IA et de protéger la sécurité nationale ainsi que les intérêts des personnes et des organisations utilisant ces plateformes.
L'autorité de régulation a publié un projet de loi ouvert aux commentaires du public jusqu'au 14 octobre. Selon l'annonce, le public peut envoyer ses commentaires par courriel à [email protected] ou par lettre au Bureau de gestion des technologies de réseau du Bureau d'information Internet de l'État.
Bien que les commentaires du public puissent avoir une incidence sur la version finale du règlement, les experts estiment que le règlement proposé serait probablement adopté dans sa forme actuelle avec des modifications minimes, car les autorités chinoises ne sont pas connues pour apporter des changements drastiques aux projets de règlement en fonction des commentaires reçus.
Le projet de règlement exige l'ajout de logos et d'invites vocales au contenu de l'IA
Le projet de réglementation propose que tout fichier texte, vidéo ou image créé par une IA comporte un logo indiquant qu'il est généré par une IA, informant ainsi toute personne consultant ce type de contenu. Afin de garantir la visibilité de cette mention, la réglementation prévoit son affichage au début, à la fin et à d'autres moments clés de la vidéo.
Pour les fichiers audio, les créateurs doivent ajouter des messages vocaux informant les utilisateurs du début de l'écoute de contenu généré par l'IA, ces messages les avertissant des différentes parties du contenu audio. Tous les logiciels de lecture audio devront également afficher des messages signalant le début de l'écoute de contenu généré par l'IA.
L’article 4 du projet de règlement stipule :
« Si le service de synthèse de génération fourni par le prestataire de services relève du premier paragraphe de l’article 17 du Règlement sur la gestion de la synthèse approfondie des services d’information Internet, un logo explicite doit être ajouté au contenu de synthèse généré conformément aux exigences suivantes. »
Par ailleurs, le projet de réglementation exige également que des métadonnées intégrées à un fichier indiquent qu'il est généré par une IA, permettant ainsi d'étiqueter ce type de contenu. En l'absence de métadonnées, il appartiendrait aux fournisseurs de services d'analyser le contenu et de l'étiqueter comme tel s'il est suspecté d'être généré par une IA.
Ces règles s'appliquent également aux internautes chinois. Les personnes publiant du contenu généré par l'IA doivent l'indiquer. Lorsqu'elles utilisent des outils d'IA sur d'autres plateformes, la loi proposée exige qu'elles fournissent leurs informations personnelles, et la plateforme de génération d'IA conservera un historique de leurs activités pendant six mois.
Par ailleurs, le projet de plan prévoit également que la plateforme de médias sociaux partage sa technologie de détection de contenu IA avec d'autres, une mesure visant à standardiser le processus et à améliorer la capacité de détecter ce type de contenu.
Ces nouvelles règles ne surprennent pas, la modération des contenus ayant toujours été un élément crucial de l'utilisation d'Internet en Chine. Cependant, l'accent mis sur les contenus générés par l'IA semble d'autant plus pertinent face aux deepfakes et autres contenus générés par l'IA, utilisés par de nombreuses personnes pour commettre des fraudes et autres actes illégaux.
Plusieurs plateformes de médias sociaux populaires hors de Chine, dont Facebook, Instagram et TikTok, étiquettent déjà les contenus générés par l'IA dans le cadre de leur modération. Cependant, leurs outils de détection ne sont pas parfaits, car de nombreux contenus hyperréalistes échappent encore au système d'étiquetage de l'IA sur ces plateformes
