Les autorités chinoises intensifient la surveillance de la désinformation sur l'IA dans le cadre de la manipulation des marchés

L'autorité chinoise de surveillance des marchés financiers s'est engagée à améliorer encore son travail de surveillance des fausses informations sur le marché boursier et à collaborer avec la police et les organismes de réglementation du cyberespace pour traduire en justice les personnes coupables de diffusion de fausses nouvelles. 

Les fausses informations existaient déjà et continuent de faire des ravages. Cependant, la prolifération de l'IA a rendu leur diffusion plus facile que jamais. Il appartient aux autorités de régulation d'agir rapidement, fermement et à la source du problème, selon le Securities Times.

L'IA est devenue un outil de diffusion de la désinformation

L'intelligence artificielle, et notamment l'IA générative, s'est développée au point de devenir une menace pour la circulation de l'information véridique.

N'importe qui peut se procurer une IA, et s'il est suffisamment déterminé, il peut même créer la sienne.

Selon un article distinct du Shanghai Securities News, ces IA sont désormais utilisées pour diffuser des informations trompeuses afin d'escroquer les investisseurs ou de manipuler les cours boursiers.

Les investisseurs avides succombent rapidement à la promesse d'un enrichissement facile, et ceux qui ont été dupés s'emploient à semer la méfiance envers l'IA. Qui pourrait les blâmer ? Il est difficile d'adopter une technologie quand on en a vu les aspects négatifs.

Malgré le danger potentiel, l'émergence d'entreprises comme la start-up chinoise d'IA DeepSeek a incité les investisseurs particuliers et les gestionnaires de fonds à utiliser l'IA pour évaluer les entreprises et investir.

🚀 DeepSeek-R1 est arrivé !

⚡ Performances équivalentes à celles d'OpenAI-o1
📖 Modèle et rapport technique entièrement open-source
🏆 Licence MIT : Utilisez et commercialisez librement !

🌐 Site web et API en ligne ! Essayez DeepThink dès aujourd'hui sur https://t.co/v1TFy7LHNy !

🐋 1/n pic.twitter.com/7BlpWAPu6y

– DeepSeek (@deepseek_ai) 20 janvier 2025

L'un des facteurs qui font peser un risque sur l'adoption de cette technologie est la crainte que les investisseurs soient induits en erreur par de fausses informations créées par l'intelligence artificielle.

Selon le Securities Times, la Commission chinoise de réglementation des valeurs mobilières (CSRC) va se montrer plus proactive dans la lutte contre les rumeurs boursières en publiant des clarifications et en encourageant l'éducation des investisseurs, tout en fournissant des conseils pour les aider à repérer les fausses informations.

Vendredi, les autorités chinoises ont publié des directives exigeant l'étiquetage de tous les contenus générés par intelligence artificielle diffusés en ligne, dans le cadre de leur lutte contre le mésusage de l'IA et la propagation de fausses informations.

Les articles du Securities Times et du Shanghai Securities News coïncident avec la Journée mondiale des droits des consommateurs, célébrée le 15 mars, un événement majeur diffusé à la télévision et sur les réseaux sociaux en Chine et qui promeut la protection des consommateurs.

La Chine est régulièrement accusée de diffuser de la désinformation par l'IA ciblant les publics occidentaux

Cependant, hors de Chine, le gouvernement chinois utiliserait l'IA pour mener une guerre de désinformation contre le monde occidental par l'intermédiaire de ses agents.

Il y a quelques jours à peine, une vidéo montrant un écran exécutant jusqu'à 50 instances d'un agent d'IA chinois est devenue virale sur X et beaucoup ont interpellé Grok d'Elon Musk à ce sujet, demandant des explications.

Selon Grok, « chaque instance semble gérer un compte différent, automatisant probablement les publications, les commentaires ou les interactions »

L'IA a ajouté que ce dispositif « suggère un effort coordonné de manipulation des récits en ligne, possiblement à des fins de propagande ou d'opérations d'influence. C'est préoccupant car ces bots peuvent diffuser de la désinformation, amplifier des contenus clivants ou influencer l'opinion publique à grande échelle, menaçant ainsi le débat démocratique. »

Bien que cela puisse paraître une théorie farfelue, Grok a affirmé que l'utilisation passée par la Chine de l'IA pour des opérations secrètes sur les réseaux sociaux représente un risque bien réel. L'IA n'est plus très loin.

L'image montre un écran exécutant 50 instances d'un agent d'IA chinois, principalement des bots de réseaux sociaux. Chaque instance semble gérer un compte différent, automatisant probablement les publications, les commentaires ou les interactions. Cette configuration suggère une tentative coordonnée de manipulation des discours en ligne…

– Grok (@grok) 9 mars 2025

En 2024, un rapport d'avril de Microsoft Threat Intelligence accusait ouvertement les opérations d'influence de la Chine d'utiliser l'intelligence artificielle pour semer la désinformation et attiser la discorde à l'échelle mondiale.

Le dernier rapport du Centre d'analyse des menaces de Microsoft indique que la Chine utilise de faux comptes sur les réseaux sociaux pour sonder les électeurs américains sur les sujets qui les divisent le plus, afin de semer la discorde et potentiellement d'influencer le résultat de l'denten sa faveur. https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) 5 avril 2024

Parmi les opérations mises en avant dans le rapport, on note « une augmentation notable du contenu mettant en scène des personnalités politiques taïwanaises à l'approche des électionsdentet législatives du 13 janvier »

Cela comprenait un enregistrement audio généré par une IA et partagé par un groupe lié au Parti communiste chinois (PCC) connu sous le nom de Storm-1376 ou « Spamouflage », qui donnait l'impression que le propriétaire de Foxconn, Terry Gou, qui avait mené une brève campagnedentdent , avait soutenu un autre candidat, alors qu'en réalité il ne l'avait pas fait.

Microsoft a également constaté la diffusion de présentateurs de journaux télévisés générés par l'IA ainsi que de mèmes générés par l'IA destinés à tromper le public et à influencer les élections taïwanaises.

« C’est la première fois que Microsoft Threat Intelligence constate qu’un acteur étatique utilise du contenu d’IA pour tenter d’influencer une élection étrangère », affirme le rapport.

Le rapport avertissait également que « alors que les populations d’Inde, de Corée du Sud et des États-Unis se rendent aux urnes, il est probable que des acteurs chinois du cyberespace et de l’influence, et dans une certaine mesure des acteurs nord-coréens du cyberespace, s’efforcent de cibler ces élections »

Bien que l'on ne puisse guère douter que les opérations d'influence de la Chine soient devenues plus sophistiquées grâce aux progrès de l'IA, Microsoft a noté qu'il existe très peu de preuves qu'elles aient réussi à modifier l'opinion publique.

Bien sûr, ce n'est pas une raison pour se relâcher car, même si Microsoft a admis que l'impact du contenu est faible, l'entreprise a exprimé son inquiétude pour l'avenir, soulignant que l'expérimentation croissante de la Chine en matière d'amplification des mèmes, des vidéos et des contenus audio pourrait rendre ce dernier plus efficace pour semer la discorde au fil du temps.