Dans une affaire révolutionnaire impliquant l'intelligence artificielle (IA), un homme en Chine a été arrêté pour avoir prétendument utilisé ChatGPT pour fabriquer un faux article sur un accident de train qui a coûté la vie à neuf personnes.
Il s'agit de la première mesure d'exécution prise en Chine en vertu d'une loi sans précédent dent à l'IA, soulignant les efforts du pays pour réglementer et contrôler l'utilisation des technologies de pointe.
L' dent de fausses nouvelles de ChatGPT
Un homme dent uniquement sous le nom de Hong a été arrêté par la police dans la province de Gansu, dans le nord-ouest de la Chine, pour avoir prétendument rédigé un faux reportage sur un dent de train à l'aide de ChatGPT.
Le faux article a été publié sur une plateforme de blogs appartenant au géant chinois de la recherche Baidu par plus de 20 comptes et a recueilli plus de 15 000 vues.
Pour contourner les contrôles de duplication sur la plateforme, Hong est accusé d'utiliser ChatGPT pour générer des versions légèrement différentes du faux article d'actualité.
Développé par la société américaine OpenAI, ChatGPT est un chatbot qui utilise la technologie d'IA générative. Cette technologie permet au logiciel de générer des réponses basées sur les invites et les questions de l'utilisateur, telles que l'élaboration d'une histoire à partir d'instructions spécifiques.
Bien que ChatGPT soit bloqué en Chine, il est toujours accessible via un réseau privé virtuel (VPN), qui peut contourner les restrictions Internet du pays.
En réponse à la popularité croissante et aux risques potentiels d'IA comme ChatGPT, les autorités chinoises ont introduit cette année une loi unique en son genre régissant les « technologies de synthèse profonde ».
La loi englobe l'utilisation de l'IA pour générer du texte, des images, des vidéos ou d'autres médias, et interdit la diffusion de fausses nouvelles par le biais de services de synthèse approfondie.
L'approche prudente des géants chinois de la technologie
Alors que ChatGPT gagne trac et devient viral, le paysage Internet fortement censuré et contrôlé de la Chine a incité le gouvernement à créer des lois traitant des nouvelles technologies qui peuvent poser des défis aux autorités centrales.
Par conséquent, les géants chinois de la technologie ont été prudents dans leur approche des applications d'IA, évitant la disponibilité généralisée de chatbots comme ChatGPT et se concentrant plutôt sur des cas d'utilisation spécifiques.
Alibaba, par exemple, travaille sur son produit Tongyi Qianwen AI, qui sera éventuellement implémenté dans son logiciel de communication sur le lieu de travail DingTalk et Tmall Genie, un fournisseur d'appareils électroménagers intelligents.
Cette approche stratégique est considérée comme une réponse aux préoccupations des régulateurs et du gouvernement.
L'arrestation de Hong en vertu de la nouvelle loi réglementant les technologies de synthèse profonde rappelle brutalement les conséquences potentielles d'une mauvaise utilisation de l'IA en Chine.
Alors que la technologie continue de progresser, il est essentiel que des pays comme la Chine établissent des directives et des réglementations qui traitent des menaces potentielles posées par l'IA, en particulier dans le domaine des fausses nouvelles et de la désinformation.
Le développement en cours de chatbots et d'applications alimentés par l'IA par les géants chinois de la technologie se poursuivra probablement sous une surveillance attentive, en mettant l'accent sur des cas d'utilisation spécifiques pour éviter d'alarmer les régulateurs et le gouvernement.
À mesure que la technologie de l'IA évolue et devient plus sophistiquée, il sera crucial de trouver un équilibre entre l'innovation et la réglementation pour garantir un paysage numérique sûr et fiable.
