L'IA Granny déjoue les arnaqueurs et répond à 3 préoccupations technologiques

L'IA et toutes les technologies émergentes font l'objet d'une analyse comparative de leurs avantages et inconvénients. L'intelligence artificielle est souvent qualifiée d'arme à double tranchant en raison des risques potentiels qu'elle comporte, tout en stimulant l'innovation.

Dernièrement, O2, géant britannique des télécommunications, a lancé « AI Daisy » pour lutter contre les escrocs se faisant passer pour une grand-mère aimable et bavarde. Développée avec l'aide du youtubeur Jim Browning, cette intelligence artificielle permet-elle de contrer ses propres risques ?

Qui est l'IA Daisy ?

L'intelligence artificielle a été au cœur des débats en 2024, mais les inquiétudes concernant sa capacité à supprimer des emplois, à surpasser les logiciels existants et à soulever des questions de confidentialité et d'éthique sont également présentes. Cependant, l'entreprise britannique de télécommunications O2 a abordé ce débat avec sérénité en lançant une nouvelle campagne.

O2 a lancé « Daisy, une IA », dans le cadre de sa campagne « Déjouer les arnaqueurs », afin de leur faire perdre du temps. Si les escrocs sont occupés à discuter avec cette grand-mère virtuelle, comment trouveront-ils le temps d'escroquer de vraies personnes ? Le rôle de Daisy semble être d'entraîner les escrocs dans de longues conversations futiles, les occupant ainsi. Elle insiste : « Soyons honnêtes, chéri(e), j'ai tout mon temps. » L'entreprise encourage les utilisateurs à signaler les numéros frauduleux pour aider Daisy àdentdavantage d'escrocs.

Dans la publicité, Daisy déclare également : « Bonjour, les arnaqueurs. Je suis votre pire cauchemar. »

Il n'y a pas de pire fureur que celle d'une grand-mère IA arnaquée. Regardez Daisy faire perdre du temps aux arnaqueurs pour qu'ils ne puissent pas vous escroquer.

👉 Signalez les appels et SMS frauduleux au 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) 15 novembre 2024

Jim Browning, connu pour dénoncer les arnaqueurs sur sa chaîne YouTube, a également participé à l'entraînement de l'IA Daisy. Dans une interview accordée à Sky News, il explique que l'IA a été entraînée à l'aide d'enregistrements réels d'appels frauduleux, dont beaucoup proviennent de ses vidéos YouTube. Browning a également révélé avoir passé des années à enregistrer et à analyser les arnaqueurs afin de comprendre leurs techniques. Selon ce justicier virtuel, Daisy oblige les arnaqueurs à perdre du temps et des ressources, ce qui peut rendre leurs activités moins lucratives.

L'IA est une arme à double tranchant

Les nouvelles technologies, bien qu'elles puissent être utiles, facilitent aussi les arnaques. Selon un rapport de Truecaller, 56,2 millions d'adultes américains ont été victimes d'escroqueries rien qu'en 2023. En moyenne, une personne sur quatre aurait perdu 452 dollars. Le rapport indique également que les personnes âgées sont plus fréquemment ciblées que les jeunes adultes, mais que ces derniers courent un risque plus élevé d'être victimes d'escroqueries.

L'influenceuse Amy Hart, qui a participé à la publicité pour l'IA Daisy, a déclaré : « Je sais par expérience à quel point les escrocs peuvent être sophistiqués et malveillants. » De son côté, Shelly Palmer, PDG de l'agence d'emploi Palmer Group, regrette de ne pas avoir eu cette idée. Bien qu'enthousiaste, il a mis en garde contre les risques liés au clonage vocal, une technologie que les arnaqueurs pourraient utiliser pour usurper l'identité de personnes. Il suggère aux familles d'utiliser un « mot ou une phrase de sécurité » pour vérifier l'dentlors d'appels contenant des demandes inhabituelles.

D'après les rapports, le clonage vocal par IA et la technologie deepfake sont extrêmement performants pour usurper l'identité de personnes réelles. de Sift de sécurité a révélé dans un article de blog que l'IA analyse les données pourdentles victimes potentielles et leurs vulnérabilités. Une fois leur cible repérée, les escrocs manipulent leurs victimes en jouant sur les émotions et en inventant des histoires pour leur soutirer de l'argent. Daisy, l'assistante IA d'O2, est une solution pour contrer l'utilisation de l'IA à des fins frauduleuses. Ainsi, Daisy, la grand-mère IA, ne se contente pas de déjouer les escrocs ; elle s'attaque également à trois problèmes technologiques majeurs.

Premièrement, le clonage vocal par l'IA soulève des risques pour la vie privée, car les escrocs peuvent désormais se faire passer pour de vraies personnes. Daisy parvient à inverser la tendance. Deuxièmement, certains critiques s'interrogent sur les implications éthiques de l'IA dans la société. La campagne poursuit un objectif positif et explique la nécessité d'une utilisation responsable de l'IA. Enfin, l'impact de l'IA sur l'emploi est au cœur de toutes les discussions. En 2024, l'IA Daisy prend en charge une tâche qui nécessitait autrefois une intervention humaine. Bien que l'IA ait réduit l'interaction humaine dans le service client, plusieurs analystes estiment que cette réduction est encore surestimée.

Cela dit, l'IA de Virgin Media O2 affirme avoir « investi massivement » dans la lutte contre la fraude, car Daisy aurait réussi à occuper les appelants frauduleux pendant 40 minutes d'affilée.