Le gouvernement de Hong Kong met en garde contre les escroqueries générées par l'IA

Le gouvernement de Hong Kong a lancé un nouvel avertissement à sesdentconcernant la recrudescence des arnaques générées par l'intelligence artificielle. Cette mise en garde fait suite à la diffusion de fausses images du chef de l'exécutif de la ville, John Lee Ka, utilisées par des escrocs pour promouvoir une arnaque à l'investissement douteuse.

Le gouvernement de Hong Kong met en garde contre les arnaques générées par l'IA

Le gouvernement a condamné cet acte, mettant en garde le public contre le risque de se laisser facilement berner par de telles publicités ou de fournir des informations personnelles, car la vidéo était « fictive et à visée frauduleuse »

« Le public ne doit pas se laisser tromper par des publicités ou des vidéos promotionnelles similaires concernant les investissements », a déclaré un porte-parole du gouvernement. « Il ne doit pas communiquer ses renseignements personnels en ligne, s'inscrire à des applications mobiles ni cliquer sur des liens. »

Ces derniers mois, l'intelligence artificielle a suscité un vif intérêt à travers le monde, notamment grâce à la popularité d'outils comme ChatGPT et autres outils génératifs. Cependant, l'immense potentiel de ces outils ouvre également la voie à des abus de la part de fraudeurs, comme en témoignent les deepfakes. 

Les deepfakes sont des vidéos ou des enregistrements audio générés par l'IA qui modifient l'apparence ou la voix d'une personne. En combinant des images et des fichiers audio existants grâce à des algorithmes de pointe, les escrocs peuvent créer des simulations convaincantes donnant l'impression qu'une célébrité, un homme ou une femme politique, ou toute autre personnalité de confiance, fait la promotion d'un produit, d'une arnaque aux cryptomonnaies, ou même délivre un message personnel.

Les escrocs utilisent l'IA comme une arme

Les escrocs utilisent de plus en plus l'intelligence artificielle pour créer des deepfakes, exploitant la tendance humaine à faire confiance aux visages et aux voix familiers. Les conséquences sont considérables : elles érodent la confiance envers les personnalités publiques, sèment la discorde au sein des communautés en ligne et causent d'importantes pertes financières aux victimes sans méfiance.

Le SCMP a rapporté le cas d'une victime au Japon qui a perdu l'équivalent de 1 700 HK$ (218 US$) en crédits de jeu vidéo après avoir été trompée par une fausse vidéo. En 2022, des escrocs ont tenté d'attirer des personnes sur une plateforme d'échange suspecte en utilisant des images et des photos falsifiées de Lee, toujours selon le SCMP.