OpenAI ferme des comptes ChatGPT liés au Cambodge pour cause d'escroqueries liées aux cryptomonnaies

OpenAI aurait fermé plusieurs comptes ChatGPT liés à une organisation criminelle cambodgienne qui utilisait le chatbot pour commettre des fraudes dans le secteur des cryptomonnaies. Il s'agit d'un nouveau cas d'utilisation abusive de l'IA et des cryptomonnaies par le crime organisé.

Cette situation survient alors que les arnaques liées aux actifs numériques sont en pleine expansion, ce qui incite les plateformes d'échange, les développeurs de jetons et les entreprises spécialisées dans l'intelligence artificielle à prendre des mesures pour prévenir les pertes des victimes. Les arnaques de type « pig-butchering » sont déjà très répandues en Asie du Sud-Est, où les fraudeurs escroquent les paiements en cryptomonnaies en utilisant des arnaques de rencontres ou d'investissement, et en exploitant des contenus générés par l'IA.

Comment les opérateurs ont intégré ChatGPT au réseau

Selon le rapport, l'enquête a débuté après avoir reçu un renseignement de WhatsApp, et ils ont depuis tracl'activité jusqu'à des comptes qui seraient basés à Poipet, une ville frontalière cambodgienne déjà connue des enquêteurs internationaux pour son lien avec des escroqueries à grande échelle.

D'après le communiqué de l'entreprise, les opérateurs ont exploité ChatGPT en créant de faussesdent, en traduisant les conversations dans différentes langues et en rédigeant des messages destinés à gagner la confiance des utilisateurs. De plus, le chatbot a produit des supports marketing pour les faux systèmes d'investissement.

Au cœur de cette escroquerie se trouvait la cryptomonnaie. Les victimes étaient attirées par des conversations amoureuses ou amicales, puis redirigées vers de fausses plateformes de trading de cryptomonnaies et d'or au comptant. Pour renforcer l'illusion, les auteurs utilisaient ChatGPT afin de fabriquer de faux passeports, des notifications légales, des confirmations d'achat d'actions et de faux tableaux de bord de trading de cryptomonnaies.

La société spécialisée en intelligence artificielle a indiqué que la fraude s'était déroulée en trois étapes, permettant aux criminels d'inciter leurs victimes à leur envoyer d'abord des cryptomonnaies, puis de leur réclamer davantage d'argent sous prétexte de frais d'activation, de taxes ou d'amendes réglementaires.

La couche de trafic qui se cache derrière les comptes

OpenAI a déclaré que son enquête avait également mis au jour des preuves de trafic de main-d'œuvre.

Certaines entreprises ont utilisé ChatGPT pour concevoir des annonces de recrutement de « chatteurs » à Poipet. Ces annonces proposent des avantagestraccomme des billets d'avion gratuits, l'hébergement, les repas et une aide pour les visas. D'autres discussions portent sur la création de tableaux permettant de tracles dettes des employés, les retenues sur salaire, les amendes pour comportement inapproprié, le statut d'immigration, les détentions ou les tentatives d'évasion.

Les résultats présentent des similitudes avec l'étude menée par Elliptic, selon laquelle la plupart des acteurs impliqués dans les escroqueries sentimentales et financières sont des victimes de trafic d'êtres humains contraintes de travailler pour le crime organisé dans toute l'Asie du Sud-Est.

Avant de fermer les comptes, OpenAI a communiqué les résultats de l'enquête aux acteurs du secteur et aux forces de l'ordre. L'entreprise estime, d'après des échanges internes, que le réseau a contacté des centaines de victimes et que leurs pertes pourraient se chiffrer en milliers de dollars.

Ce cas illustre une tendance plus large en matière de cybersécurité. Les organisations criminelles étant capables d'exploiter l'intelligence artificielle générative et les systèmes de paiement en cryptomonnaie, empêcher les criminels d'utiliser des outils d'IA avancés pourrait devenir aussi crucial que le blocage des portefeuilles illégaux ou le démantèlement des opérations de blanchiment d'argent. 

Les flux illicites de cryptomonnaies ont atteint un niveau record juste au moment où l'interdiction a été levée

Compte tenu de l'ampleur de la criminalité liée aux cryptomonnaies, la décision d'OpenAI est majeure. Selon le rapport de TRM Labs sur la criminalité liée aux cryptomonnaies, publié le 28 janvier, les flux illicites de cryptomonnaies devraient atteindre 158$ milliards de dollars en 2025. Cela représente une augmentation de près de 145 % par rapport à l'année précédente et constitue le chiffre le plus élevé en cinq ans. Parallèlement, la part des activités illicites dans le volume des transactions sur la blockchain a diminué, passant de 1,3 % en 2024 à 1,2 % en 2025. Cela indique que les cryptomonnaies sont désormais plus largement adoptées. 

Le rapport indique également que les stablecoins sont responsables d'environ 84 % des flux financiers frauduleux avérés, confirmant ainsi qu'ils constituent le principal moyen de paiement pour les criminels impliqués dans des escroqueries organisées. Cependant, la fermeture d'OpenAI vise une opération spécifique menée au sein d'une infrastructure criminelle.

Pourquoi les entreprises spécialisées dans l'IA sont devenues un point de passage obligé pour les réseaux d'escroquerie

Les efforts d'OpenAI sont considérables car l'IA générative peut déjà prendre en charge la partie la plus laborieuse des escroqueries : convaincre les victimes de faire confiance aux escrocs.

Une étude menée par des chercheurs d'Amrita Vishwa Vidyapeetham, de l'Université Ca' Foscari de Venise, de l'Université de Melbourne et de l'Université Ben-Gourion du Néguev a démontré comment un agent Claude, doté d'intelligence artificielle, a surpassé un escroc humain dans une arnaque à l'abattage de porc. L'étude a révélé que 46 % des participants ont utilisé le logiciel suggéré par l'IA après une semaine d'échanges, contre seulement 18 % avec l'opérateur humain. De plus, les participants ont conclu que l'IA était bien plus fiable.

Les chercheurs ont mené des entretiens avec 145 personnes ayant déjà participé à des opérations d'escroquerie, notamment des survivants de réseaux de traite d'êtres humains dans différents centres au Cambodge, au Myanmar et au Laos. Selon leurs conclusions, l'intelligence artificielle (IA) utilisée dans ces opérations permet d'automatiser la phase de construction de la confiance. Bloquer l'accès à des modèles sophistiqués peut perturber le déroulement de l'escroquerie avant même que les victimes n'aient été amenées à remettre leur argent.