Alerte : une grand-mère déjoue une arnaque de clonage vocal par IA

Une grand-mère de San Diego a évité de justesse de perdre des milliers de dollars à une arnaque impliquant un clonage vocal généré par l’IA qui imitait son bien-aimé petit-fils. L’incident s’est produit lorsque Maureen, une grand-mère du comté du Nord, a reçu un appel téléphonique d’un numéro anonyme, initialement pris pour l’appel du numéro masqué de sa sœur. La voix de l’autre côté sonnait de manière effrayante comme celle de son petit-fils détressé.

Une tromperie par IA convaincante

L’appelant a prétendu être son petit-fils et a informé Maureen qu’il avait été impliqué dans un accident de voiture, portait un collier cervical et se dirigeait vers le poste de police. Il a demandé urgemment 8 200 $ pour sa caution. La voix générée par l’IA trompeuse était si convaincante que Maureen n’a pas hésité à croire qu’il s’agissait de son petit-fils. Un avocat présumé a également rejoint l’appel, ajoutant de la crédibilité à l’arnaque en affirmant que son petit-fils avait heurté un diplomate dans l’accident, soulignant le besoin de secret dans les 72 heures.

Craignant pour la sécurité de son petit-fils, Maureen a succombé à l’arnaque. Elle a précipitamment rassemblé l’argent de caution supposé et s’est précipitée à la banque pour en obtenir plus. Cependant, avant de remettre son argent dur gagné, elle a contacté sa fille pour vérifier la santé de son petit-fils. Pour son soulagement, elle a découvert que son vrai petit-fils était en sécurité, participant à un tournoi de golf. Cette révélation a enragé l’arnaqueur, qui a déversé sa colère lors d’un appel ultérieur avec la fille de Maureen.

Les arnaques alimentées par l'IA en hausse

Les arnaques par usurpation d’identité, comme l’« arnaque à la grand-mère », impliquent des escrocs se faisant passer pour des personnes de confiance pour tromper les victimes afin qu’elles envoient de l’argent en raison d’urgences fabriquées. Cette tendance, en particulier parmi les personnes âgées, est en hausse et constitue une préoccupation croissante pour les forces de l’ordre. L’intelligence artificielle exacerbe le problème en rendant l’imitation vocale plus accessible et rentable.

Des outils d’IA comme ElevenLabs et Stable Diffusion peuvent manipuler les voix et les mouvements des lèvres, rendant de plus en plus difficile pour les gens de distinguer les enregistrements audio ou vidéo authentiques des faux. Selon la Federal Trade Commission, en 2022, les arnaques par usurpation d’identité étaient la deuxième arnaque la plus répandue aux États-Unis, avec plus de 36 000 cas signalés et plus de 11 millions de dollars de pertes attribués aux incidents par téléphone.

Se protéger contre les arnaques par IA

En réponse à la menace croissante des arnaques pilotées par l’IA, la famille de Maureen a élaboré une stratégie de protection connue sous le nom de « mot de sécurité ». Ce mot unique est connu uniquement des membres de la famille et sert de mesure de vérification en cas d’appels suspects. La clé est d’éviter de partager ce mot par texte ou e-mail et de communiquer directement par téléphone.

Maureen a souligné la détresse émotionnelle causée par l’arnaque et a exprimé son désir d’épargner aux autres des expériences similaires. L’utilisation de mots de sécurité et de la communication téléphonique directe est une approche proactive pour contrer le défi croissant de la tromperie alimentée par l’IA.

L’histoire de la rencontre quasi fatale de la grand-mère Maureen avec une arnaque de clonage vocal générée par l’IA met en lumière la sophistication croissante des fraudeurs. À mesure que la technologie IA évolue, il devient impératif pour les individus et les familles d’adopter des mesures de protection comme les mots de sécurité et la communication téléphonique directe pour se protéger contre la détresse émotionnelle et financière causée par ces arnaques trompeuses.