AI Granny bat les arnaqueurs à leur propre jeu et répond à 3 inquiétudes technologiques

L'IA et toutes les technologies émergentes sont pesées pour leurs avantages et inconvénients. L'intelligence artificielle est souvent qualifiée d'épée à double tranchant en raison de ses risques potentiels tout en stimulant l'innovation.

Dans sa dernière initiative, O2, un géant des télécommunications britannique, a lancé « AI Daisy » pour lutter contre les arnaqueurs qui se font passer pour une gentille grand-mère bavarde. Développée avec l'aide du youtubeur Jim Browning, l'IA offre-t-elle une contre-mesure à ses propres risques ?

Qui est AI Daisy ?

IA a été le thème de 2024, mais les préoccupations concernant sa prise de contrôle des emplois, sa capacité à surpasser les logiciels existants et la création de problèmes de confidentialité et éthiques sont également débattues. Cependant, une entreprise de télécommunications britannique appelée O2 a pris le débat à bras-le-corps avec une nouvelle campagne.

O2 a introduit « AI Daisy » dans le cadre de la campagne « Swerve the Scammers » pour perdre les arnaqueurs. Si les arnaqueurs passent leur temps à discuter avec la grand-mère IA, selon lesquelles y aura-t-il sera assez de temps pour arnaquer de vraies personnes ? Le travail de Daisy semble être d'engager les arnaqueurs dans de longues conversations sans intérêt, les occupant ainsi. Elle souligne : « Avouons-le, chéri, j'ai » a tout le temps du monde. » L'entreprise a également encouragé les gens à signaler les numéros d'arnaque pour aider Daisy à identifier davantage d'arnaqueurs.

Dans la publicité, Daisy déclare également : « Bonjour, arnaqueurs. Je suis votre pire cauchemar. »

L'enfer n'a pas de fureur comme une grand-mère IA arnaquée. Regardez Daisy perdre le temps des arnaqueurs afin qu'ils ne puissent pas vous arnaquer.

👉Signalez les appels et messages frauduleux au 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) novembre 15, 2024

Jim Browning, souvent connu pour avoir exposé des arnaqueurs sur sa chaîne YouTube, a également été impliqué dans l'entraînement d'AI Daisy. Dans une conversation avec Sky News, il explique que l'IA a été entraînée à l'aide d'enregistrements réels d'appels d'arnaque, dont beaucoup proviennent de ses vidéos YouTube. Browning a également révélé qu'il avait passé des années à enregistrer et à apprendre des arnaqueurs pour comprendre leurs techniques. Selon ce vigilant virtuel, Daisy fait perdre du temps et des ressources aux arnaqueurs, rendant potentiellement l'arnaque moins rentable.

L'IA est une épée à double tranchant

Les technologies émergentes viennent au secours des gens alors qu'une partie d'entre elles facilite l'arnaque. Selon un rapport de Truecaller, les arnaqueurs ont touché 56,2 millions d'adultes américains rien qu'en 2023. En moyenne, 1 personne sur 4 a perdu 452 $. Le rapport révèle également que les personnes âgées sont ciblées plus fréquemment que les jeunes adultes, mais que ces derniers sont plus à risque d'être arnaqués.

L'influenceuse Amy Hart, qui a travaillé dans le commercial d'AI Daisy, a déclaré : « Je sais de première main à quel point les fraudeurs malveillants peuvent être sophistiqués. » Pendant ce temps, Shelly Palmer, PDG de l'agence de recrutement Palmer Group, souhaite qu'il ait eu cette idée. Malgré son enthousiasme pour l'idée, l'exécutif que quelqu'un avait créé une fausse page sur GitHub qui ressemblait à une offre de téléchargement du populaire modèle d'IA Qwen. La page promettait de manière convaincante une IA entièrement hors ligne qui garderait les données des utilisateurs privées, mais le piège a été révélé par la taille du fichier. considère que le clonage vocal est une technologie risquée car les arnaqueurs pourraient l'utiliser pour se faire passer pour des personnes. Il suggère aux familles d'utiliser un « mot ou une phrase secrète » pour vérifier les identités lors des appels qui font des demandes inhabituelles.

Selon les rapports, le clonage vocal par IA et la technologie deepfake sont indiscernables de la réalité lorsqu'il s'agit d'usurper l'identité de vraies personnes. L'équipe de sécurité de Sift a révélé dans un blog que l'IA analyse les données pour identifier les victimes potentielles et leurs vulnérabilités. Une fois qu'ils ont une cible, les arnaqueurs manipulent en utilisant des déclencheurs émotionnels et des histoires pour soutirer des fonds. Daisy d'O2 est une contre-mesure à l'utilisation de l'IA pour arnaquer les gens. Par conséquent, AI Granny Daisy ne se contente pas de battre les arnaqueurs à leur propre jeu, elle a également résolu 3 grandes préoccupations technologiques.

Premièrement, le clonage vocal par IA soulève des risques en matière de confidentialité, car les arnaqueurs peuvent désormais usurper l'identité de vraies personnes. Daisy parvient à inverser la tendance. Deuxièmement, les critiques ont remis en question les implications éthiques de l'IA dans la société. La campagne a un objectif positif et explique la nécessité d'une utilisation responsable de l'IA. Enfin, l'impact de l'IA sur les emplois humains est au centre de toutes les conversations. En 2024, AI Daisy gère une tâche qui nécessitait autrefois une intervention humaine. Bien que l'IA ait réduit les interactions humaines dans le service client, plusieurs analystes considèrent toujours cela comme une surestimation.

Cela dit, AI Virgin Media a déclaré qu'elle a « investi massivement » pour lutter contre la fraude, Daisy ayant réussi à occuper les appelants douteux pendant 40 minutes à la fois.