Fuga de agua en DeepSeek: ¿quedan expuestos los chats de los agentes de IA?

DeepSeek, la IA que sorprendió al mundo con su productividad, ahora está bajo escrutinio por almacenar datos sin protección en bases de datos de acceso público. La filtración de datos pone en duda a todos los agentes de IA que adoptaron rápidamente el modelo de lenguaje. 

Apenas unos días después de ganar popularidad, DeepSeek fue expuesto como un riesgo, ya que filtraba registros de datos a una base de datos de ClickHouse, de acceso público y sin protección. Los datos expuestos contenían registros de chat e información confidencial de los usuarios, y podían exponer cuentas y contraseñas. ClickHouse, una herramienta de análisis de bases de datos de la empresa rusa de TI Yandex, se utilizó para transportar el tráfico sin protección adicional.

Los datos de chat filtrados podrían contener contraseñas y archivos locales, aunque los investigadores de la firma de ciberseguridad Wiz no han consultado información potencialmente confidencial. Es posible que la base de datos contuviera claves secretas de API. En total, los investigadores descubrieron más de un millón de líneas de datos tras tractodas las conexiones abiertas durante una sesión de DeepSeek. 

Desde este punto, validar la exposición fue bastante sencillo, mirando la API de ClickHouse, pudimos acceder a la API HTTP que permite realizar consultas directas a la base de datos MySQL

Hubo una exposición significativa de datos, especialmente de la tabla log_stream, durante… pic.twitter.com/NhS2gyfBpJ

– Nagli (@galnagli) 29 de enero de 2025

La fuga se descubrió tras tracla interfaz de chat principal, descubriendo hasta 30 subdominios que realizaban tareas técnicas, en su mayoría inofensivas, para la herramienta de IA. Tras completar las pruebas de vulnerabilidad, algunas de las bases de datos más polémicas ahora están protegidas e inaccesibles. 

Tras las pruebas, el equipo de DeepSeek se puso en contacto con la comunidad, indicando que ninguno de los hallazgos se había hecho público antes de reparar la seguridad. Sin embargo, horas antes de que se hiciera pública la filtración de la base de datos, otro usuario anónimo de X señaló un problema con las bases de datos no seguras, lo que en ese momento se consideró un intento de engaño o estafa.

Hasta el momento, se desconoce si otros actores de amenazas han encontrado información valiosa en los datos. Sin embargo, la recopilación de datos de los chats de IA también subraya la posible pérdida de privacidad al usar la herramienta. Existen múltiples puntos finales para interactuar con DeepSeek, desde su sitio web y aplicación oficiales hasta el alojamiento local o cualquier otro contenedor utilizado con el LLM y el motor de razonamiento.

¿La filtración de DeepSeek afectará a los agentes de IA?

Los modelos de lenguaje se pueden usar con mayor privacidad ejecutándolos localmente, para lo cual DeepSeek es ideal. Cada nueva personalidad de agente de IA cuenta con sus propias herramientas para encapsular el modelo de lenguaje y presentarlo a los usuarios. 

Venice.AI, uno de los agentes de IA más destacados, afirma ofrecer la máximadent. Sin embargo, los usuarios han descubierto que Venice.AI también envía datos de texto sin formato a sus servidores centrales, aunque al menos no utiliza herramientas públicas adicionales. 

Contrariamente a su afirmación, no existe ninguna IA privada en https://t.co/bR5IfvDdvI

Todas las solicitudes de inferencia van a su servidor central en texto simple, sin cifrado ni privacidad.

Todos los buffers recibidos también están en texto sin formato.

Compruébelo usted mismo revisando la pestaña de Red en Chrome. pic.twitter.com/WDRxog6E5O

— Smit (@0xSmit) 27 de enero de 2025

El enfoque de Venice.AI sigue siendo relativamente másdenten comparación con la filtración de datos de DeepSeek. 

Además, Venice.AI responde a algunas consultas sin la censura que suele imponerse en el sitio centralizado DeepSeek. Aunque aún se encuentra en sus primeras etapas, pretende convertirse en un centro para el desarrollo de agentes de IA adicionales, proporcionando el modelo de lenguaje y los recursos. 

La prisa por crear más agentes con DeepSeek podría ser un vector que propague otros riesgos desconocidos del modelo de lenguaje y el motor de razonamiento. Casi cada hora se anuncian nuevos agentes que afirman utilizar las capacidades de DeepSeek para generar mejor contenido a un menor coste. 

DeepSeek choca con el espíritu criptográfico "Hecho en EE. UU."

Desarrollar agentes de IA y tokenizarlos mientras se depende de DeepSeek se considera un riesgo inherente al usar un modelo de lenguaje relativamente nuevo y sin probar. DeepSeek se convirtió en la aplicación más descargada en los últimos días, pero la comunidad cripto pidió precaución al usar este LLM para desarrollar productos. 

La visión más extrema considera que el modelo DeepSeek es intrínsecamente riesgoso, incluso cuando se utiliza como un LLM autoalojado. 

https://twitter.com/ryan_trat/status/1884860338807722351

Los tokens vinculados a agentes de IA aún se consideran riesgosos y más cercanos a la moda de los memes, y actualmente no se consideran activos serios para incluir en la tendencia criptográfica "Made in USA". 

Sin embargo, usar DeepSeek puede descalificar proyectos y generar escepticismo sobre su capacidad de recopilación de datos y su potencial para transportar malware. Los agentes creados con DeepSeek pueden publicar información errónea o comportarse de forma errática.

Un usuario X publicó:

“Los agentes creados con DeepSeek son los agentes del caos perfectos: se extienden hasta el infinito, te suministran datos basura y, en su lugar, te llevan a ti (y a su cuenta X) hacia abajo”

Otros defensores de las criptomonedas han advertido contra interactuar con DeepSeek en esta etapa, especialmente a través de la aplicación oficial. Incluso días antes de la filtración de datos, analistas de ciberseguridad advirtieron sobre posibles funciones de espionaje, ya que DeepSeek está vinculado al Partido Comunista Chino a través de su fundador, Liang Wengfeng.

Tras la prohibición de TikTok en EE. UU. por temor a la recopilación de datos, la rápida adopción de DeepSeek se consideró una amenaza similar para la seguridad de los datos.