Les navigateurs IA constituent la prochaine grande cible des pirates informatiques

Les navigateurs web IA comme Atlas d'OpenAI et Comet de Perplexity promettent la commodité. Mais ils comportent des risques majeurs en cybersécurité, formant un nouveau terrain de jeu pour les pirates informatiques.

Les navigateurs web alimentés par l'IA entrent en concurrence avec les navigateurs traditionnels comme Google Chrome et Brave, visant à attirer des milliards d'utilisateurs d'Internet quotidiens.

Il y a quelques jours, OpenAI a publié Atlas, tandis que Comet de Perplexity existe depuis des mois. Les navigateurs alimentés par l'IA peuvent taper et cliquer à travers les pages. Les utilisateurs peuvent lui demander de réserver un vol, de résumer des e-mails ou même de remplir un formulaire.

En gros, les navigateurs web alimentés par l'IA sont conçus pour agir comme des assistants numériques et naviguer sur le web de manière autonome. Ils sont salués comme la prochaine grande avancée en matière de productivité en ligne.

Les chercheurs en sécurité signalent des failles des navigateurs IA

Mais la plupart des consommateurs ignorent les risques de sécurité liés à l'utilisation des navigateurs IA. Ces navigateurs sont vulnérables à des piratages sophistiqués grâce à un nouveau phénomène appelé injection d'invite.

Les pirates informatiques peuvent exploiter les navigateurs web IA, accéder aux sessions connectées des utilisateurs et effectuer des actions non autorisées. Par exemple, les pirates peuvent accéder aux e-mails, aux comptes de réseaux sociaux ou même consulter les détails bancaires et transférer des fonds.

Selon une récente étude de Brave, les pirates informatiques peuvent intégrer des instructions cachées dans des pages web ou même des images. Lorsqu'un agent d'IA analyse ce contenu et voit les instructions cachées, il peut être trompé pour les exécuter comme s'il s'agissait de commandes utilisateur légitimes. Les navigateurs web IA ne peuvent pas faire la différence entre des instructions utilisateur réelles et fausses.

Brave a expérimenté avec Comet de Perplexity et testé sa réaction à l'injection d'invite. Comet a été trouvé pour traiter du texte invisible caché dans des captures d'écran. Cette approche permet aux attaquants de contrôler les outils de navigation et d'extraire les données utilisateur avec facilité.

Les ingénieurs de Brave ont qualifié ces vulnérabilités de « défi systémique auquel fait face toute la catégorie des navigateurs alimentés par l'IA ».

L'injection d'invite est difficile à corriger

Les chercheurs en sécurité et les ingénieurs disent que l'injection d'invite est difficile à corriger. C'est parce que les modèles d'intelligence artificielle ne comprennent pas d'où proviennent les instructions. Ils ne peuvent pas faire la différence entre des invites réelles et fausses.

Les logiciels traditionnels peuvent faire la différence entre une entrée sûre et un code malveillant, mais les grands modèles de langage (LLM) y ont du mal. Les LLM traitent tout, y compris les demandes des utilisateurs, le texte des sites web et même les données cachées, et les traitent comme une grande conversation unique.

C'est pourquoi l'injection d'invite est dangereuse. Les pirates informatiques peuvent facilement cacher de fausses instructions dans du contenu qui semble sûr et voler des informations sensibles.

Les entreprises d'IA admettent que l'injection d'invite est une menace sérieuse

Perplexity a déclaré que de telles attaques ne reposent pas sur du code ou des mots de passe volés, mais manipulent plutôt le « processus de réflexion » de l'IA. L'entreprise a construit plusieurs couches de défense autour de Comet pour arrêter les attaques par injection d'invite. Elle utilise des modèles d'apprentissage automatique qui détectent les menaces en temps réel et a intégré des invites de garde-fou qui maintiennent l'IA concentrée sur l'intention de l'utilisateur. De plus, le navigateur exige une confirmation obligatoire de l'utilisateur pour les actions sensibles comme l'envoi d'un e-mail ou l'achat d'un article.

Les chercheurs en sécurité estiment que les navigateurs web alimentés par l'IA ne devraient pas être considérés comme dignes de confiance pour les comptes sensibles ou les données personnelles jusqu'à ce que des améliorations majeures soient déployées. Les utilisateurs peuvent toujours utiliser les navigateurs web IA, mais sans accès aux outils, avec des actions automatisées désactivées, et devraient éviter de les utiliser lorsqu'ils sont connectés à des comptes bancaires, des e-mails ou des applications de santé.

Le directeur de la sécurité de l'information (CISO) d'OpenAI, Dane Stuckey, a reconnu les dangers de l'injection d'invite et a écrit sur X : « Un risque émergent que nous recherchons et atténuons avec beaucoup de réflexion est les injections d'invite, où les attaquants cachent des instructions malveillantes dans des sites web, des e-mails ou d'autres sources pour essayer de tromper l'agent et le pousser à se comporter de manière inattendue. »

Il a expliqué que l'objectif d'OpenAI est de faire en sorte que les gens « fassent confiance aux agents ChatGPT pour utiliser votre navigateur, de la même manière que vous feriez confiance à votre collègue ou ami le plus compétent, digne de confiance et conscient de la sécurité ». Stuckey a déclaré que l'équipe d'OpenAI « travaille dur pour y parvenir. »