L'IA génère de fausses nouvelles conduisant à l'arrestation d'un homme en Chine : Rapport

Un homme connu seulement sous le nom de « Hong » a été arrêté dans le district du Gansu en Chine après avoir supposément utilisé le service ChatGPT pour générer de fausses nouvelles. L'arrestation de Hong est intervenue après une enquête sur un article non vérifié relatif à un accident de train, découvert sur un site de blog populaire hébergé par le conglomérat technologique chinois Baidu. Des spécialistes de la cybersécurité ont découvert qu'au moins 20 comptes avaient publié simultanément l'article de fausses nouvelles, conduisant à l'arrestation de Hong.

La Chine possède certaines des lois les plus strictes au monde concernant l'utilisation des réseaux sociaux, et Hong a été arrêté pour « avoir utilisé la technologie d'intelligence artificielle pour concocter de fausses et fausses informations », enfreignant un décret contre les « querelles et provocations de troubles », qui couvre spécifiquement la propagation de fausses nouvelles et de rumeurs sur Internet. S'il est inculpé, Hong risque jusqu'à cinq ans de prison en vertu de la loi normale, mais pourrait être condamné à jusqu'à 10 ans si les tribunaux considèrent l'infraction comme particulièrement grave.

Bien que le service ChatGPT soit actuellement interdit en Chine, son utilisation peut être masquée par des réseaux privés virtuels (VPN). Cependant, les services d'IA domestiques, tels que le « Tongyi Qianwen » d'Alibaba, récemment annoncé comme un modèle d'IA générative entraîné à répondre aux questions en anglais et en mandarin, ont reçu l'approbation du gouvernement chinois. Il reste incertain si Tongyi Qianwen aura les mêmes capacités créatives que ChatGPT.

Préoccupations croissantes concernant l'abus de la technologie IA

Le manque de modèles robustes d'intelligence artificielle générative en Chine pourrait potentiellement avoir un effet dissuasif sur la scène technologique de la nation, en particulier dans des secteurs tels que la fintech et le trading de cryptomonnaies, où l'utilisation de ChatGPT et des produits construits sur l'API GPT d'OpenAI a explosé en popularité. Il est probable que le gouvernement chinois continue de surveiller l'utilisation des technologies d'intelligence artificielle et de réprimer ceux qui les utilisent pour propager de fausses informations.

L'incident met également en lumière les préoccupations croissantes concernant l'abus de la technologie d'intelligence artificielle. Bien que l'intelligence artificielle ait un potentiel énorme pour transformer une gamme d'industries, elle pose également des risques significatifs. La capacité de générer rapidement et facilement de convaincantes fausses nouvelles pourrait avoir de graves conséquences sur la confiance du public dans les médias et le gouvernement. À mesure que l'intelligence artificielle continue d'avancer, il est crucial que nous développions des stratégies efficaces pour prévenir son abus et garantir qu'elle est utilisée pour le bien public.