Vazamento de dados do DeepSeek: conversas com agentes de IA ficaram expostas?

A DeepSeek, a IA que surpreendeu o mundo com sua produtividade, agora está sob escrutínio por armazenar dados desprotegidos em bancos de dados de acesso público. O vazamento de dados coloca em xeque todos os agentes de IA que adotaram rapidamente esse modelo de linguagem. 

Apenas alguns dias após ganhar popularidade, o DeepSeek foi exposto como arriscado, vazando registros de dados para um banco de dados ClickHouse desprotegido e de acesso público. Os dados expostos continham registros de bate-papo e informações confidenciais de usuários, podendo expor contas e senhas. O ClickHouse, uma ferramenta de banco de dados analítico da empresa russa de TI Yandex, foi usado para transportar o tráfego sem proteção adicional.

Os dados de bate-papo vazados podem conter senhas e arquivos locais, embora os pesquisadores da empresa de segurança cibernética Wiz não tenham realizado buscas por informações potencialmente sensíveis. É possível que o banco de dados contivesse chaves secretas de API. No total, mais de 1 milhão de linhas de dados foram descobertas pelos pesquisadores após tractodas as conexões abertas durante uma sessão do DeepSeek. 

A partir deste ponto – validar a exposição foi bastante simples, analisando a API do ClickHouse – conseguimos acessar a API HTTP, que permite consultar o banco de dados MySQL de forma direta

Houve uma exposição significativa de dados, especialmente da tabela log_stream, ao longo de… pic.twitter.com/NhS2gyfBpJ

-Nagli (@galnagli) 29 de janeiro de 2025

O vazamento foi descoberto após tracda interface principal do chat, que revelou até 30 subdomínios que executavam tarefas técnicas, em sua maioria inofensivas, para a ferramenta de IA. Após a conclusão dos testes de vulnerabilidade, alguns dos bancos de dados mais críticos agora estão protegidos e inacessíveis. 

A equipe da DeepSeek entrou em contato após os testes, afirmando que nenhuma das descobertas foi divulgada antes da correção da segurança. No entanto, horas antes do vazamento do banco de dados se tornar público, outro usuário anônimo do X apontou um problema com bancos de dados não seguros, o que na época foi considerado uma tentativa de isca ou golpe.

Neste momento, não se sabe se outros agentes maliciosos encontraram algo de valor nos dados. No entanto, a coleta de dados de chats com IA também ressalta a potencial perda de privacidade ao usar a ferramenta. Existem vários pontos de acesso para interagir com o DeepSeek, desde seu site e aplicativo oficiais até hospedagem local ou qualquer outro wrapper usado com o LLM e o mecanismo de raciocínio.

O vazamento de dados do DeepSeek afetará os agentes de IA?

Os modelos de linguagem podem ser usados ​​com mais privacidade ao serem executados localmente, para o que o DeepSeek é ideal. Cada nova personalidade de agente de IA possui suas próprias ferramentas para integrar o modelo de linguagem e apresentá-lo aos usuários. 

A Venice.AI, uma das agências de IA mais proeminentes, afirma oferecer máximadent. No entanto, usuários descobriram que a Venice.AI também envia dados em texto simples para seus servidores centrais, embora pelo menos não utilizando ferramentas adicionais voltadas para o público. 

Ao contrário do que afirmam, não há IA privada em https://t.co/bR5IfvDdvI

Todas as solicitações de inferência são enviadas ao servidor central em texto simples, sem criptografia ou privacidade.

Todos os buffers recebidos também estão em texto simples.

Verifique você mesmo consultando a guia Rede no Chrome. pic.twitter.com/WDRxog6E5O

— Smit (@0xSmit) 27 de janeiro de 2025

A abordagem da Venice.AI ainda é relativamente maisdentem comparação com o vazamento de dados da DeepSeek. 

Além disso, a Venice.AI responde a algumas consultas sem a censura normalmente imposta ao site centralizado DeepSeek. Embora ainda esteja em fase inicial, pretende se tornar um centro para a construção de agentes de IA adicionais , fornecendo o modelo de linguagem e os recursos necessários. 

A corrida para criar mais agentes usando o DeepSeek pode ser um vetor que dissemina outros riscos desconhecidos do modelo de linguagem e do mecanismo de raciocínio. Quase a cada hora, novos agentes são anunciados, alegando usar os recursos do DeepSeek para gerar conteúdo melhor a um custo menor. 

DeepSeek entra em conflito com a filosofia cripto "Made in USA"

Criar agentes de IA e tokenizá-los utilizando o DeepSeek é visto como um risco inerente ao uso de um modelo de linguagem relativamente novo e não testado. O DeepSeek se tornou o aplicativo mais baixado nos últimos dias, mas a comunidade cripto pediu cautela ao usar esse modelo de linguagem para desenvolver produtos. 

A visão mais extrema considera o modelo DeepSeek inerentemente arriscado, mesmo quando usado como um LLM autohospedado. 

https://twitter.com/ryan_trat/status/1884860338807722351

Os tokens vinculados a agentes de IA ainda são considerados arriscados e mais próximos da euforia dos memes, não sendo atualmente considerados ativos sérios para inclusão na tendência de criptomoedas "Made in USA". 

No entanto, o uso do DeepSeek pode desqualificar projetos e gerar dúvidas sobre sua capacidade de coleta de dados e potencial para transportar malware. Agentes criados com o DeepSeek podem publicar informações incorretas ou apresentar comportamento errático.

Um usuário do X publicou:

“Agentes criados com DeepSeek são os agentes do caos perfeitos: entram em loops infinitos, fornecem dados inúteis e acabam derrubando você (e a conta X deles).”

Outros entusiastas de criptomoedas em geral alertaram contra o envolvimento com o DeepSeek neste momento, especialmente por meio do aplicativo oficial. Mesmo dias antes do vazamento de dados, analistas de segurança cibernética alertaram sobre possíveis recursos de espionagem, já que o DeepSeek está ligado ao Partido Comunista Chinês por meio de seu fundador, Liang Wengfeng.

Após a proibição do TikTok nos EUA devido a receios de coleta de dados, a rápida adoção do DeepSeek foi considerada uma ameaça semelhante à segurança de dados.