Un Chinois arrêté pour avoir utilisé ChatGPT pour rédiger des articles

Dans une affaire inédite impliquant l'intelligence artificielle (IA), un homme en Chine a été arrêté pour avoir prétendument utilisé ChatGPT pour fabriquer un faux article de presse sur un accident de train qui a fait neuf victimes.

Il s'agit de la première mesure d'application prise en Chine en vertu d'une loi sans précédentdentà l'IA, soulignant les efforts du pays pour réglementer et contrôler l'utilisation des technologies de pointe.

Le ChatGPT fake news incident

Un hommedentseulement comme Hong a été arrêté par la police de la province du Gansu, dans le nord-ouest de la Chine, pour avoir prétendument fabriqué une fausse information concernant undent de train en utilisant ChatGPT.

Le faux article a été publié sur une plateforme de blogs appartenant au géant chinois de la recherche Baidu par plus de 20 comptes et a accumulé plus de 15 000 vues.

Pour contourner les contrôles de duplication sur la plateforme, Hong est accusé d'avoir utilisé ChatGPT pour générer des versions légèrement différentes de l'article de fausse information.

Développé par la société américaine OpenAI, ChatGPT est un chatbot qui utilise l'intelligence artificielle générative. Cette technologie permet au logiciel de générer des réponses à partir des requêtes et questions de l'utilisateur, par exemple en élaborant un récit à partir d'instructions précises.

Bien que ChatGPT soit bloqué en Chine, il reste accessible via un réseau privé virtuel (VPN), ce qui permet de contourner les restrictions internet du pays.

Face à la popularité croissante et aux risques potentiels des IA comme ChatGPT, les autorités chinoises ont introduit cette année une loi inédite régissant les « technologies de synthèse profonde »

La loi englobe l'utilisation de l'IA pour générer du texte, des images, des vidéos ou d'autres médias, et interdit la diffusion de fausses informations via des services de synthèse profonde.

L'approche prudente des géants technologiques chinois

Alors que ChatGPT gagne tracet devient viral, le paysage internet fortement censuré et contrôlé de la Chine a incité le gouvernement à créer des lois encadrant les nouvelles technologies susceptibles de poser des défis aux autorités centrales.

Par conséquent, les géants technologiques chinois ont fait preuve de prudence dans leur approche des applications d'IA, évitant la généralisation des chatbots comme ChatGPT et se concentrant plutôt sur des cas d'utilisation spécifiques.

Alibaba, par exemple, travaille sur son produit d'intelligence artificielle Tongyi Qianwen, qui sera à terme intégré à son logiciel de communication en milieu de travail DingTalk et à Tmall Genie, un fournisseur d'appareils électroménagers intelligents.

Cette approche stratégique est perçue comme une réponse aux préoccupations des organismes de réglementation et du gouvernement.

L’arrestation de Hong en vertu de la nouvelle loi réglementant les technologies de synthèse profonde rappelle brutalement les conséquences potentielles d’une mauvaise utilisation de l’IA en Chine.

À mesure que la technologie continue de progresser, il est essentiel pour des pays comme la Chine d'établir des lignes directrices et des réglementations qui permettent de contrer les menaces potentielles posées par l'IA, notamment dans le domaine des fausses nouvelles et de la désinformation.

Le développement continu des chatbots et des applications basés sur l'IA par les géants technologiques chinois se poursuivra probablement sous une supervision attentive, axée sur des cas d'utilisation spécifiques afin d'éviter d'alarmer les autorités de réglementation et le gouvernement.

À mesure que la technologie de l'IA évolue et se perfectionne, trouver un équilibre entre innovation et réglementation sera crucial pour garantir un environnement numérique sûr et fiable.