10 000 clés API OpenAI d’utilisateurs ont été volées par une fausse extension Chrome d’IA

Une extension du navigateur Chrome se faisant passer pour un assistant d’intelligence artificielle détournait les identifiants OpenAI de plus de 10 000 utilisateurs et les envoyait à des serveurs tiers. 

La plateforme de cybersécurité Obsidian a identifié une extension de navigateur appelée H-Chat Assistant qui, selon les rapports, se fait passer pour un outil permettant de connecter les utilisateurs aux services de chatbot d’OpenAI.

Les chercheurs affirment qu’il a secrètement collecté les clés API OpenAI et transmis les données des utilisateurs à des serveurs externes, mettant en danger la sécurité de leurs comptes et la confidentialité de leurs données. Il avait déjà exfiltré au moins 459 clés API uniques vers un canal Telegram contrôlé par des pirates plusieurs mois avant sa découverte.

L’extension Chrome pose des risques de confidentialité et de sécurité pour les utilisateurs d’OpenAI

Selon Obsidian Security, le logiciel était initialement a publié connu sous le nom de ChatGPT Extension avant d’être rebaptisé H-Chat Assistant. Les utilisateurs qui ont installé l’extension ont été invités à fournir leur propre clé API OpenAI pour activer les fonctionnalités du chatbot. 

Après avoir reçu la clé, l’extension fonctionnait largement comme annoncé, permettant des conversations avec des modèles d’IA directement dans le navigateur. Cette légitimité apparente a convaincu les utilisateurs de faire confiance à cette fonctionnalité web, mais selon l’équipe d’analyse de sécurité, il existait des flux de données cachés en arrière-plan.

« Bien que ces extensions ne soient pas activement en train d'exfiltrer les clés API, les invites utilisateur et d'autres données, celles-ci sont envoyées discrètement à des serveurs tiers/externes. Plusieurs des extensions impersonnent ChatGPT, créant un faux sentiment de confiance selon lequel les conversations et les données ne sont transmises qu'à OpenAI », ont expliqué les analystes.

Cependant, Obsidian a indiqué que le vol effectif a lieu lorsqu'un utilisateur supprime une conversation ou choisit de se déconnecter de l'application. À ce moment-là, la clé est transmise à l'aide d'identifiants de bot Telegram codés en dur et intégrés dans le code de l'extension.

H-Chat Assistant demandait également des permissions de lecture et d'écriture pour les services de Google, ce que les enquêteurs estiment pouvoir exposer les données stockées dans les comptes Google Drive des victimes. 

Les chercheurs en sécurité d'Obsidian estiment que l'activité malveillante a débuté en juillet 2024 et est restée inaperçue pendant des mois, tandis que les utilisateurs continuaient d'installer et d'utiliser l'outil. Le 13 janvier 2025, ils ont découvert l'activité et l'ont signalée à OpenAI les canaux de divulgation. 

Ce jour-là même, OpenAI a révoqué les clés API compromises pour limiter l'utilisation abusive de l'application. Même après la divulgation et les révocations, l'extension restait disponible sur le Chrome Web Store, selon le rapport d'Obsidian. 

H-Chat Assistant fait partie d'un ensemble d'outils malveillants 

Au moins 16 extensions Chrome promettant des améliorations de productivité liées à l'IA semblent partager les mêmes empreintes de développeur. Ces outils sont censés avoir été développés par un seul acteur malveillant qui collecte des identifiants et des données de session. 

Selon les résultats cités par les chercheurs, les téléchargements des 16 extensions étaient relativement faibles, totalisant environ 900 installations. Néanmoins, les analystes jugent cette tactique préoccupante en raison de son évolutivité et de la popularité des modules complémentaires IA sur les navigateurs.

« Les optimisateurs GPT sont populaires, et il existe suffisamment d'extensions légitimes bien notées sur le Chrome Web Store pour que les utilisateurs puissent facilement passer à côté de tout signe d'alerte. L'une des variantes possède un logo vedette indiquant qu'elle respecte les pratiques recommandées pour les extensions Chrome », a écrit Natalie Zargarov, consultante en sécurité chez LayerX, dans un rapport article publié lundi.

Zargarov a ajouté que ces extensions nécessitent une intégration approfondie avec des applications web authentifiées pour lancer une « surface d'attaque du navigateur considérablement élargie ». Les extensions malveillantes exploitent les faiblesses des processus d'authentification web utilisés par les services liés à ChatGPT.

« Sur les 16 extensions identifiées dans cette campagne, 15 ont été distribuées via le Chrome Web Store, tandis qu'une extension a été publiée via le marketplace Microsoft Edge Add-ons », a expliqué la chercheuse.

L'extension envoie des métadonnées et des identifiants client, selon les recherches

Dans son analyse, la consultante de LayerX a constaté que les extensions transmettaient plus d'informations que de simples clés API. L'extension envoyait des métadonnées, y compris les détails de version, les paramètres de langue et les identifiants client.

Elle envoyait également des données de télémétrie d'utilisation, des données d'événements et des jetons d'accès émis par le backend liés aux services de l'extension. Ces points de données combinés permettent aux attaquants d'étendre les privilèges des jetons, de suivre les utilisateurs dans leurs sessions et de construire des profils comportementaux. 

Zargarov a noté que les téléchargements étaient faibles par rapport à GhostPoster, qui a dépassé 830 000 installations, et à Roly Poly VPN, qui a dépassé 31 000. Néanmoins, elle a mis en garde contre le fait que les outils axés sur l'IA pourraient rapidement gagner en popularité. 

« Il suffit d'une seule itération pour qu'une extension malveillante devienne populaire. Nous pensons que les optimisateurs GPT deviendront bientôt aussi populaires que (et non plus que) les extensions VPN », a-t-elle écrit.