Chrome lance une IA pour bloquer les notifications frauduleuses

Chrome a lancé un nouveau système de défense par intelligence artificielle qui intercepte les notifications frauduleuses avant qu'elles ne causent des dommages. Selon la dernière mise à jour, le navigateur a publié une nouvelle version pour les appareils Android où il utilise désormais l'apprentissage automatique local pour identifier et signaler les notifications suspectes.

Selon la mise à jour, le nouveau système de défense devrait détecter et signaler les notifications suspectes qui tentent de tromper les utilisateurs pour qu'ils téléchargent des logiciels douteux ou divulguent leurs informations personnelles. Dans son communiqué, Google a indiqué que le système d'avertissement par notification était déjà actif, ce qui signifie que les utilisateurs Android peuvent désormais bénéficier d'une couche de sécurité supplémentaire contre l'essor rampant des arnaques mobiles dans le monde entier.

Selon Google, les arnaques basées sur les notifications sont en augmentation, remplaçant les fenêtres pop-up gênantes qui ont longtemps perturbé les premières versions d'Internet. Désormais, les plateformes ont réussi à les détecter. La plateforme a indiqué que certains de ces nouveaux nuisibles suivent même les utilisateurs après qu'ils ont quitté un site web, ce qui explique pourquoi l'IA locale fonctionnera mieux que l'IA hébergée sur un serveur.

Chrome déploie un nouveau système de défense par IA contre les arnaques

Dans son article de blog, la société a détaillé le fonctionnement du nouveau système. « Lorsqu'une notification est signalée par Chrome, vous verrez le nom du site qui envoie la notification, un message d'avertissement indiquant que le contenu de la notification est potentiellement trompeur ou spammeux, ainsi que l'option de vous désabonner du site ou de consulter le contenu signalé », a déclaré l'équipe Chromium dans un article de blog annonçant cette fonctionnalité.

Dans un article de blog distinct, Google a mentionné que la mise à disposition de ces LLMs sur les appareils garantit qu'ils signalent ces menaces immédiatement après que les utilisateurs les voient. L'entreprise a indiqué avoir découvert que le site malveillant moyen existe pendant moins de 10 minutes, et que ce système de défense sur l'appareil permet de détecter et de bloquer les attaques qui n'ont pas encore été explorées. « L'approche sur l'appareil nous permet également de voir les menaces comme les utilisateurs les voient », a ajouté Google.

L'entreprise a également précisé qu'au lieu d'envoyer les données de notification des utilisateurs à leurs serveurs pour analyse, Chrome utilise les capacités multimodales de Gemini Nano pour distinguer les notifications légitimes des notifications malveillantes. Le modèle d'apprentissage automatique examine le texte de chaque notification, y compris son titre, son contenu et tous les boutons d'action, afin de déterminer si elle est suspecte ou non. Cela signifie également que Google n'a toujours pas accès aux notifications des utilisateurs, car elles restent chiffrées et ne quittent jamais leur appareil.

Google renforce sa défense contre l'abus de notifications

Selon l'article de blog, Google affirme avoir pris des précautions supplémentaires avec les données d'entraînement. L'entreprise a déclaré avoir utilisé des informations synthétiques générées par son modèle de langage large Gemini au lieu de vraies notifications utilisateur. Elle a ensuite validé ces données d'entraînement contre de vraies notifications que son équipe de sécurité avait collectées et fait classifier par des experts humains. Le système s'ajoute à la défense croissante de Chrome contre les abus de notifications.

Chrome a déjà déployé une fonctionnalité qui révoque les autorisations de notification des sites identifiés comme abusifs par Google Safe Browsing et propose une fonction de désabonnement en un clic pour toute notification sur Android, qu'elle ait été signalée ou non. Pour l'instant, cette fonctionnalité n'est disponible que sur Android, car c'est là que la majorité des notifications spam se produisent, mais Google a laissé entendre une éventuelle extension future. « Nous évaluerons l'opportunité d'étendre cette fonctionnalité à d'autres plateformes à l'avenir », a déclaré l'entreprise.

Le meilleur aspect de cette nouvelle fonctionnalité est qu'elle est entièrement automatique, contrairement à d'autres solutions où les utilisateurs doivent saisir manuellement des filtres et des attentes, ainsi que d'autres configurations basées sur des mots-clés. Les utilisateurs sont également invités à mettre à jour leurs défenses au fur et à mesure que les arnaques deviennent plus sophistiquées. Cela signifie que si les escrocs tentent une action suspecte, Chrome alertera l'utilisateur avant que l'arnaque ne puisse être menée à bien. Avec la fraude par notification en pleine expansion, cette nouvelle approche devrait aider les utilisateurs à repérer les astuces.