L'intelligence artificielle génère de fausses informations, ce qui conduit à l'arrestation d'un homme en Chine : rapport

Un homme connu sous le pseudonyme de « Hong » a été arrêté dans la province du Gansu, en Chine, pour avoir prétendument utilisé le service ChatGPT afin de diffuser de fausses informations. Son arrestation fait suite à une enquête concernant un article non vérifié relatif à un accident ferroviaire, découvert sur un site de blogs populaire hébergé par le géant technologique chinois Baidu. Des spécialistes en cybersécurité ont constaté qu'au moins 20 comptes avaient simultanément publié cet article mensonger, ce qui a conduit à l'arrestation de Hong.

La Chine possède certaines des lois les plus strictes au monde en matière d'utilisation des réseaux sociaux. Hong a été arrêté pour « utilisation de l'intelligence artificielle afin de diffuser de fausses informations », en violation d'une ordonnance interdisant de « provoquer des querelles et des troubles à l'ordre public », qui vise spécifiquement la diffusion de fausses nouvelles et de rumeurs sur Internet. S'il est inculpé, Hong encourt jusqu'à cinq ans de prison en vertu de la loi, mais pourrait être condamné à dix ans si les tribunaux considèrent l'infraction comme particulièrement grave.

Bien que le service ChatGPT soit actuellement interdit en Chine, son utilisation peut être masquée par les réseaux privés virtuels (VPN). Cependant, les services d'IA développés localement, tels que « Tongyi Qianwen » d'Alibaba, récemment présenté comme un modèle d'IA générative capable de répondre à des questions en anglais et en mandarin, ont reçu l'aval du gouvernement chinois. On ignore encore si Tongyi Qianwen possédera les mêmes capacités créatives que ChatGPT.

Inquiétudes croissantes concernant le mauvais usage de la technologie de l'IA

L'absence de modèles d'intelligence artificielle générative robustes en Chine pourrait freiner le développement technologique du pays, notamment dans des secteurs comme la fintech et le trading de cryptomonnaies, où l'utilisation de ChatGPT et des produits basés sur l'API GPT d'OpenAI a connu une croissance fulgurante. Il est probable que le gouvernement chinois continuera de surveiller l'utilisation des technologies d'intelligence artificielle et de sévir contre ceux qui les utilisent pour diffuser de fausses informations.

Cetdent met également en lumière l'inquiétude croissante concernant le mésusage de l'intelligence artificielle. Si cette dernière recèle un potentiel considérable pour transformer de nombreux secteurs, elle présente aussi des risques importants. La capacité à générer rapidement et facilement de fausses informations convaincantes pourrait avoir de graves conséquences sur la confiance du public envers les médias et les pouvoirs publics. Face aux progrès constants de l'intelligence artificielle, il est crucial de développer des stratégies efficaces pour prévenir son mésusage et garantir qu'elle soit utilisée dans l'intérêt général.