Fuite de données chez DeepSeek : les conversations des agents IA sont-elles exposées ?

DeepSeek, l'IA qui a surpris le monde par sa productivité, est désormais sous le feu des critiques pour avoir stocké des données non protégées dans des bases de données accessibles au public. Cette fuite de données remet en question tous les agents d'IA qui ont rapidement adopté ce modèle de langage. 

Quelques jours seulement après avoir gagné en popularité, DeepSeek a été identifié comme une plateforme à risque, ayant divulgué des journaux de données dans une base de données ClickHouse accessible publiquement et non protégée. Ces données contenaient des historiques de conversations et des informations sensibles sur les utilisateurs, et pouvaient exposer des comptes et des mots de passe. ClickHouse, un outil d'analyse de base de données développé par la société informatique russe Yandex, était utilisé pour acheminer le trafic sans protection supplémentaire.

Les données de conversation divulguées pourraient contenir des mots de passe et des fichiers locaux, bien que les chercheurs de la société de cybersécurité Wiz n'aient pas effectué de requêtes visant à identifier d'éventuelles informations sensibles. Il est possible que la base de données contienne des clés secrètes d'API. Au total, plus d'un million de lignes de données ont été découvertes par les chercheurs après tracanalysé toutes les connexions ouvertes lors d'une session DeepSeek. 

À partir de là – la validation de l'exposition était assez simple, en consultant l'API ClickHouse – nous avons pu accéder à l'API HTTP qui permet d'interroger directement la base de données MySQL

Une importante fuite de données, notamment de la table log_stream, a eu lieu… pic.twitter.com/NhS2gyfBpJ

– Nagli (@galnagli) 29 janvier 2025

La fuite a été découverte après tracde l'interface de chat principale, révélant jusqu'à 30 sous-domaines effectuant des tâches techniques pour la plupart inoffensives pour l'outil d'IA. Suite aux tests de vulnérabilité, certaines des bases de données les plus sensibles sont désormais protégées et inaccessibles. 

L'équipe de DeepSeek a pris contact avec les utilisateurs après les tests, précisant qu'aucune des découvertes n'avait été rendue publique avant la correction de la faille de sécurité. Cependant, quelques heures avant que la fuite de données ne soit divulguée, un autre utilisateur anonyme de X avait signalé un problème lié à des bases de données non sécurisées, ce qui avait été considéré à l'époque comme une tentative d'escroquerie.

À ce stade, on ignore si d'autres acteurs malveillants ont exploité ces données. Toutefois, la collecte de données issues des conversations avec l'IA souligne également les risques potentiels pour la vie privée liés à l'utilisation de cet outil. DeepSeek est accessible via plusieurs points d'accès : son site web et son application officiels, un hébergement local ou tout autre dispositif d'interface utilisé avec le LLM et le moteur de raisonnement.

La fuite de données DeepSeek aura-t-elle un impact sur les agents d'IA ?

Les modèles de langage peuvent être utilisés avec une confidentialité accrue en étant exécutés localement, ce pour quoi DeepSeek est parfaitement adapté. Chaque nouvelle personnalité d'agent IA dispose de ses propres outils pour encapsuler le modèle de langage et le présenter aux utilisateurs. 

Venice.AI, l'un des agents d'IA les plus en vue, prétend offrir unedentmaximale. Cependant, des utilisateurs ont découvert que Venice.AI envoie également des données en clair à ses serveurs centraux, même si, du moins, il n'utilise pas d'outils publics supplémentaires. 

Contrairement à ce qu'ils affirment, il n'y a pas d'IA privée dans https://t.co/bR5IfvDdvI

Toutes les requêtes d'inférence sont envoyées à leur serveur central en texte clair, sans aucun chiffrement ni confidentialité.

Tous les tampons reçus sont également en texte brut.

Vérifiez-le vous-même en consultant l'onglet Réseau dans Chrome. pic.twitter.com/WDRxog6E5O

— Smit (@0xSmit) 27 janvier 2025

L'approche de Venice.AI reste relativement plusdentque la fuite de données de DeepSeek. 

De plus, Venice.AI répondrait à certaines requêtes sans la censure habituellement appliquée sur le site centralisé DeepSeek. Bien qu'encore à ses débuts, ce projet ambitionne de devenir une plateforme pour le développement d'agents d'IA supplémentaires en fournissant le modèle de langage et les ressources nécessaires. 

La multiplication des agents utilisant DeepSeek risque de propager d'autres risques inconnus liés au modèle de langage et au moteur de raisonnement. Presque toutes les heures, de nouveaux agents sont annoncés, prétendant exploiter les capacités de DeepSeek pour proposer un contenu de meilleure qualité à moindre coût. 

DeepSeek s'oppose à l'éthique crypto « Made in USA »

La création d'agents d'IA et leur tokenisation à l'aide de DeepSeek présentent un risque inhérent à l'utilisation d'un modèle de langage relativement nouveau et non éprouvé. DeepSeek est devenue l'application la plus téléchargée ces derniers jours, mais la communauté crypto appelle à la prudence quant à l'utilisation de ce modèle de langage pour le développement de produits. 

L'opinion la plus extrême considère le modèle DeepSeek comme intrinsèquement risqué, même lorsqu'il est utilisé comme un LLM auto-hébergé. 

https://twitter.com/ryan_trat/status/1884860338807722351

Les jetons liés aux agents d'IA sont toujours considérés comme risqués et relèvent davantage du phénomène de mode lié aux mèmes ; ils ne sont actuellement pas considérés comme des actifs sérieux à inclure dans la tendance crypto « Made in USA ». 

Toutefois, l'utilisation de DeepSeek peut disqualifier des projets et susciter des doutes quant à leurs capacités de collecte de données et leur potentiel de transmission de logiciels malveillants. Les agents conçus avec DeepSeek peuvent diffuser des informations erronées ou avoir un comportement erratique.

Un utilisateur de X a publié :

« Les agents conçus avec DeepSeek sont les agents du chaos parfaits : ils bouclent à l’infini, vous abreuvent de données inutiles et finissent par vous faire tomber (ainsi que leur compte X). »

D'autres défenseurs des cryptomonnaies ont mis en garde contre toute interaction avec DeepSeek à ce stade, notamment via l'application officielle. Plusieurs jours avant la fuite de données, des analystes en cybersécurité avaient déjà alerté sur d'éventuelles fonctionnalités d'espionnage, DeepSeek étant lié au Parti communiste chinois par l'intermédiaire de son fondateur, Liang Wengfeng.

Suite à l'interdiction de TikTok aux États-Unis par crainte de collecte de données, l'adoption rapide de DeepSeek a été considérée comme une menace similaire pour la sécurité des données.