L'IA de numérisation d'appels de Google pourrait-elle conduire à une censure par défaut ?
- Google teste son modèle Gemini Nano pour détecter et informer les utilisateurs en temps réel des arnaques.
- Google affirme que les données des utilisateurs seront protégées car la solution fonctionne uniquement sur l'appareil.
- Les experts en matière de vie privée et de droits humains ne sont pas satisfaits de cette idée et craignent qu'elle n'entraîne une censure par défaut.
Dans le but de protéger les utilisateurs d’Android contre les escrocs téléphoniques, Google développe de nouvelles mesures de sécurité. Google teste une technologie qui utilise l’intelligence artificielle pour identifier les schémas liés aux arnaques et avertir les utilisateurs de téléphones Android lorsque des fraudes sont suspectées, selon Dave Burke, vice-président de l’ingénierie chez Google.
Google a révélé mardi lors de la conférence pour les développeurs I/O qu’il développait une nouvelle fonction de surveillance des appels qui alerterait les utilisateurs de la possibilité que la personne avec qui ils parlent essaie probablement de les arnaquer et les inviterait à mettre fin à ces conversations.
Google assure aux utilisateurs que leurs données seront en sécurité
Selon Google, cette fonctionnalité utilise Gemini Nano, un modèle de langage réduit, local et hors ligne pour les smartphones Android, basé sur le grand modèle de langage Gemini de l’entreprise.
L’entreprise a déclaré que,
« Cette protection s’effectue entièrement sur l’appareil, donc votre conversation reste privée. »
Les appels de « représentants bancaires » qui demandent des choses qu’une banque légitime ne demanderait jamais, comme vos mots de passe ou codes PIN de carte de crédit, ou qui exigent des paiements avec des cartes-cadeaux ou des transferts d’argent urgents, sont quelques exemples de ce qui pourrait déclencher ces alertes.
Google affirme que puisque ces nouvelles mesures de sécurité sont toutes sur l’appareil, les conversations écoutées par Gemini Nano resteront secrètes.
Les experts en confidentialité sont méfiants face à cette idée
L’utilisation par l’entreprise d’une intelligence artificielle générative pour le balayage en temps réel afin de repérer les schémas liés aux arnaques lors des appels vocaux inquiète les experts en sécurité et en confidentialité.
À lire également : La démonstration impressionnante de Gemini AI lors de Google I/O
Les experts craignent qu’après avoir identifié les arnaques, il ne tarde pas avant qu’ils ne remarquent des tendances liées aux inclinations politiques, aux questions de droits humains ou aux difficultés privées liées aux emplois des personnes.
Andriy, concepteur de solutions de sécurité IA et ingénieur, a publié sur la plateforme X, partageant un message de Meredith Whittaker, disant que l’outil de balayage d’appels par IA de Google le divise. Il a déclaré qu’alors qu’il apprécie la protection contre la fraude, à quel prix pour sa vie privée ?
Il a déclaré être un spécialiste de la cybersécurité, il sait donc à quel point le balayage côté client peut facilement dégénérer en surveillance.
Les experts prévoient que ce n’est que la partie émergée de l’iceberg, et en réalité, ce qui se produira est qu’il évoluera vers une censure centralisée à l’avenir.
La compatibilité de Gemini Nano est limitée
Bien que Google dise que les clients devront opter pour utiliser la fonction de détection d’arnaques, il affirme qu’il révèlera plus de détails plus tard cette année. Aucune information n’est disponible sur la date de disponibilité de la fonctionnalité.
À lire également : Google Photos bénéficiera de la fonctionnalité « Ask Photos » alimentée par l’IA avec l’intégration de Gemini
Par conséquent, la compatibilité peut restreindre le nombre de candidats pour lesquels cette technologie est utile. Le site web de support développeur pour Gemini Nano indique que,
« Gemini Nano, la plus petite version de la famille de modèles Gemini, peut s’exécuter sur l’appareil sur les appareils Android compatibles, à partir du Google Pixel 8 Pro et de la série Samsung S24. »
Il y a toujours un risque de tomber victime d’une arnaque, même si certaines personnes peuvent trouver facile de les repérer après des années d’efforts de sensibilisation et des conseils facilement disponibles sur la façon de les éviter.
Selon une enquête publiée par l’Alliance mondiale anti-arnaque en octobre de l’année dernière, une personne sur quatre dans le monde a perdu plus de 1 000 milliards de dollars en raison d’arnaques ou d’usurpation d’identité au cours de l’année précédente.
Article de Cryptopolitan par Aamir Sheikh
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
