Vazamento de vazamentos do DeepSeek, as conversas de agentes de IA estão expostas?

O DeepSeek, a IA que surpreendeu o mundo com sua produtividade, agora está sendo scrutinizada por armazenar dados desprotegidos em bancos de dados publicamente acessíveis. O vazamento de dados levanta uma questão sobre todos os agentes de IA que rapidamente adotaram o modelo de linguagem. 

Apenas dias após ganhar popularidade, o DeepSeek foi exposto como arriscado, vazando logs de dados em um banco de dados ClickHouse publicamente acessível e desprotegido. Os dados expostos continham logs de chat e informações sensíveis dos usuários, podendo expor contas e senhas. O ClickHouse, uma ferramenta de banco de dados analítico da empresa de TI russa Yandex, foi usado para transportar o tráfego sem proteção adicional.

Os dados de chat vazados podem conter senhas e arquivos locais, embora os pesquisadores da empresa de segurança cibernética Wiz não tenham feito consultas por informações potencialmente sensíveis. É possível que o banco de dados contivesse chaves secretas de API. No geral, mais de 1 milhão de linhas de dados foram descobertas pelos pesquisadores após rastrear todas as conexões abertas durante uma sessão do DeepSeek. 

A partir desse ponto – validar a exposição foi bastante direto, olhando para a API do ClickHouse – conseguimos acessar a API HTTP, que permite consultar diretamente o banco de dados MySQL

Houve uma exposição significativa de dados, especialmente da tabela log_stream, ao longo… pic.twitter.com/NhS2gyfBpJ

— Nagli (@galnagli) January 29, 2025

O vazamento foi descoberto após rastrear a interface principal de chat, descobrindo até 30 subdomínios que realizavam principalmente tarefas técnicas inofensivas para a ferramenta de IA. Após a conclusão dos testes de vulnerabilidade, alguns dos bancos de dados mais controversos agora estão protegidos e inacessíveis. 

A equipe do DeepSeek entrou em contato após os testes, afirmando que nenhuma das descobertas foi tornada pública antes de reparar a segurança. No entanto, horas antes do vazamento do banco de dados se tornar público, outro usuário anônimo do X apontou para um problema com bancos de dados desprotegidos, o que na época foi considerado uma isca ou tentativa de golpe.

Neste ponto, é desconhecido se outros atores maliciosos encontraram algo de valor nos dados. No entanto, a coleta de dados de chats de IA também destaca a perda potencial de privacidade ao usar a ferramenta. Existem vários endpoints para interagir com o DeepSeek, desde seu site e aplicativo oficiais até hospedagem local ou qualquer outro wrapper usado com o LLM e o motor de raciocínio.

O vazamento do DeepSeek afetará os agentes de IA?

Os modelos de linguagem podem ser usados com mais privacidade sendo executados localmente, para o que o DeepSeek é bem adequado. Cada nova personalidade de agente de IA tem suas próprias ferramentas para envolver o modelo de linguagem e apresentá-lo aos usuários. 

A Venice.AI, um dos agentes de IA mais proeminentes, afirma oferecer máxima confidencialidade. No entanto, os usuários descobriram que a Venice.AI também envia dados em texto puro para seus servidores centrais, embora pelo menos não use ferramentas adicionais voltadas para o público. 

Ao contrário do que afirmam, não há uma IA Privada em https://t.co/bR5IfvDdvI

Todas as solicitações de inferência vão para seu Servidor Central em texto puro, sem criptografia ou privacidade.

Todos os buffers recebidos também estão em texto puro.

Verifique você mesmo verificando a aba Network no Chrome. pic.twitter.com/WDRxog6E5O

— Smit (@0xSmit) January 27, 2025

A abordagem da Venice.AI ainda é relativamente mais confidencial em comparação com o vazamento de dados do DeepSeek. 

Além disso, a Venice.AI reportedly responde a algumas consultas sem a censura normalmente imposta ao site centralizado do DeepSeek. Embora ainda esteja em seus estágios iniciais, a intenção é se tornar um hub para estabelecido agentes de IA adicionais fornecendo o modelo de linguagem e recursos. 

A corrida para criar mais agentes usando o DeepSeek pode ser um vetor que espalha outros riscos desconhecidos do modelo de linguagem e do motor de raciocínio. Quase a cada hora, novos agentes são anunciados, afirmando usar as capacidades do DeepSeek para melhor conteúdo a um custo menor. 

O DeepSeek entra em conflito com o ethos ‘Made in USA’ das criptomoedas

Construir agentes de IA e tokenizá-los enquanto se confia no DeepSeek é visto como um risco inerente ao uso de um modelo de linguagem relativamente novo e não testado. O DeepSeek se tornou o aplicativo mais baixado nos últimos dias, mas a comunidade de criptomoedas pediu cautela ao usar este LLM para construir produtos. 

A visão mais extrema vê o modelo DeepSeek como inerentemente arriscado, mesmo quando usado como um LLM auto-hospedado. 

https://twitter.com/ryan_trat/status/1884860338807722351

Os tokens vinculados a agentes de IA ainda são considerados arriscados e mais próximos do hype de memes, não sendo atualmente considerados ativos sérios para incluir na tendência de criptomoedas ‘Made in USA’. 

No entanto, usar o DeepSeek pode desqualificar projetos e levantar ceticismo sobre suas capacidades de coleta de dados e potencial de transportar malware. Agentes construídos com o DeepSeek podem postar informações defeituosas ou se comportar de maneira errática.

Um usuário do X postou:

“Agentes construídos com o DeepSeek são os agentes de caos perfeitos: loops infinitos, alimentam você com dados inúteis e derrubam você (e sua conta no X) em vez disso.”

Outros apoiadores gerais de criptomoedas alertou contra se envolver com o DeepSeek neste estágio, especialmente através do aplicativo oficial. Mesmo dias antes do vazamento de dados, analistas de segurança cibernética alertaram sobre possíveis recursos de espionagem, já que o DeepSeek é ligado ligado ao Partido Comunista Chinês através de seu fundador, Liang Wengfeng.

Após a proibição do TikTok nos EUA por medo de coleta de dados, a rápida adoção do DeepSeek foi considerada uma ameaça semelhante à segurança dos dados.