Dans une révélation glaçante, l'avocat Steve Weisman, d'Amherst, a dévoilé les aspects les plus sombres de l'intelligence artificielle, exposant la menace croissante que représentent les escrocs utilisant des contenus générés par l'IA pour tromper des victimes sans méfiance. La récente recrudescence d'escroqueries aux cryptomonnaies, où un PDG virtuel a piégé des individus dans des arnaques financières, met en lumière la sophistication des tactiques employées par les cybercriminels. Weisman, reconnu pour son travail de longue haleine dans la lutte contre les escroqueries via son site web scamicide.com, a récemment témoigné en tant qu'expert devant la Commission spéciale du Sénat américain sur le vieillissement, apportant un éclairage alarmant sur la montée en flèche des escroqueries générées par l'IA ciblant les personnes âgées aux États-Unis.
La sinistre symphonie des arnaques générées par l'IA
Avec l'évolution du paysage numérique, les méthodes employées par les escrocs évoluent elles aussi. L'utilisation de l'intelligence artificielle pour créer des contenus trompeurs est devenue centrale dans les arnaques récentes, comme en témoigne une vidéo de promotion de placements financiers. Le PDG fictif, généré par une IA, servait de marionnette dans une escroquerie visant à détourner des fonds d'investisseurs non avertis. Steve Weisman, fort de sa longue expérience, souligne la gravité du problème, affirmant que les escrocs maîtrisent désormais l'art de s'en prendre aux individus.
L'expertise de Weisman a été mise en lumière lors de son récent témoignage devant la Commission spéciale du Sénat américain sur le vieillissement, où il a souligné la prévalence des clones vocaux générés par l'IA et des deepfakes ciblant les personnes âgées américaines. Le rapport Consumer Sentinel de la Federal Trade Commission pour 2022 a révélé des pertes faramineuses de plus de 1,6 milliard de dollars déclarées par les Américains âgés en raison de fraudes et d'escroqueries. Cependant, les chiffres réels pourraient être exponentiellement plus élevés, masqués par la réticence des victimes à signaler les faits par gêne ou honte.
L'audience a réuni d'autres experts, dont l'avocat Gary Schildhorn, de Philadelphie, qui a témoigné avoir été victime d'une tentative d'escroquerie perpétrée par une intelligence artificielle utilisant la voix de son fils. L'absence de législation protégeant contre les escroqueries générées par l'IA lorsqu'aucun argent n'est dérobé souligne d'autant plus la nécessité d'une intervention législative. Les discussions ont également porté sur le besoin d'outils et de ressources pour les forces de l'ordre, la réglementation de l'IA et la protection des consommateurs, notamment dans le domaine des cryptomonnaies.
Légiférer contre l'ombre
Le témoignage de Weisman a suscité des appels à légiférer pour contrer la menace croissante des escroqueries générées par l'IA. La commission spéciale du Sénat américain sur le vieillissement a examiné l'urgence de créer des outils pour les forces de l'ordre, de réglementer l'IA et de protéger les consommateurs, notamment dans le domaine des cryptomonnaies. Les sénatrices Elizabeth Warren et Kirsten Gillibrand ont exprimé leurs inquiétudes quant à l'absence de réglementation et à la nécessité urgente d'agir.
Reconnaissant le rôle de l'éducation dans la lutte contre les escroqueries, Weisman a salué les propositions législatives, notamment la loi visant à mettre fin aux escroqueries envers les personnes âgées. Ce projet de loi vise à créer un groupe consultatif fédéral chargé d'élaborer des outils pédagogiques à destination des commerçants, des institutions financières et des sociétés de transfert d'argent. L'objectif est de doter ces entités des connaissances nécessaires pour déjouer les escroqueries visant les personnes âgées, en particulier celles impliquant des transferts d'argent ou l'achat de cartes-cadeaux.
Malgré les progrès législatifs, Weisman souligne l'importance de la responsabilité individuelle et du bon sens face à l'évolution des arnaques. Évoquant les efforts de l'administration Biden pour réglementer les services de mixage de cryptomonnaies, il insiste sur la nécessité pour les fournisseurs de services d'anonymisation de se conformer aux obligations de connaissance du client (« connaissance du client ») similaires à celles des banques et des établissements de crédit. Si les arnaques peuvent adopter des méthodes technologiquement avancées, Weisman affirme que leurs principes fondamentaux demeurent inchangés à travers les âges, soulignant ainsi l'importance d'une vigilance constante.
Une question de vigilance
Face à un paysage de plus en plus infiltré par les escroqueries générées par l'IA, une question se pose : la législation seule peut-elle protéger les individus contre les tactiques en constante évolution des escrocs ? Alors que les experts préconisent des réglementations et des initiatives de sensibilisation, la responsabilité de rester vigilant repose sur chacun. Les efforts collectifs des législateurs, des experts et du public seront-ils suffisants pour déjouer le monde en perpétuelle adaptation des escroqueries pilotées par l'IA ? Tant qu'il y aura des cibles potentielles, la lutte contre les escroqueries se poursuivra. Comment la société peut-elle trouver un équilibre entre progrès technologique et protection contre le réseau complexe de tromperies générées par l'IA ?
