- DeepSeek memorizzava i log delle chat e altri dati utente utilizzando database non protetti, accessibili da Internet, basati su ClickHouse.
- I database sono stati chiusi dopo che ricercatori di Wiz avevano avvisato DeepSeek, ma la raccolta dei dati continua.
- Gli agenti AI nel settore crypto stanno iniziando a utilizzare DeepSeek per attirare maggiore attenzione, ma gli scettici considerano l'ampia adozione del LLM un rischio per la sicurezza a lungo termine.
DeepSeek, l'IA che ha sorpreso il mondo con la sua produttività, è ora sotto scrutinio per aver memorizzato dati non protetti in database pubblicamente accessibili. La perdita di dati mette in discussione tutti gli agenti IA che hanno rapidamente adottato il modello linguistico.
A pochi giorni dal suo successo, DeepSeek è stata esposta come rischiosa, perdendo i log dei dati in un database ClickHouse pubblicamente accessibile e non protetto. I dati esposti contenevano log delle chat e informazioni sensibili degli utenti e potevano esporre account e password. ClickHouse, uno strumento di database analitico dell'azienda IT russa Yandex, è stato utilizzato per gestire il traffico senza protezioni aggiuntive.
I dati delle chat trapelati potrebbero contenere password e file locali, sebbene i ricercatori dell'azienda di sicurezza informatica Wiz non abbiano effettuato query per informazioni potenzialmente sensibili. È possibile che il database contenesse chiavi segrete API. Nel complesso, più di 1 milione di righe di dati sono state scoperte dai ricercatori dopo aver tracciato tutte le connessioni aperte durante una sessione di DeepSeek.
Da questo punto – convalidare l'esposizione è stato piuttosto semplice, guardando l'API di ClickHouse – siamo riusciti ad accedere all'API HTTP che consente di interrogare direttamente il database MySQL
C'è stata una significativa esposizione di dati, in particolare dalla tabella log_stream, su… pic.twitter.com/NhS2gyfBpJ
— Nagli (@galnagli) 29 gennaio, 2025
La perdita è stata scoperta dopo aver tracciato l'interfaccia di chat principale, scoprendo fino a 30 sottodomini che eseguivano per lo più compiti tecnici innocui per lo strumento di IA. Dopo il completamento dei test di vulnerabilità, alcuni dei database più controversi sono ora protetti e inaccessibili.
Il team di DeepSeek ha contattato dopo i test, affermando che nessuna delle scoperte è stata resa pubblica prima di riparare la sicurezza. Tuttavia, ore prima che la perdita del database diventasse pubblica, un altro utente anonimo di X ha segnalato un problema con database non sicuri, che in quel momento era considerato un'esca o un tentativo di truffa.
A questo punto, non è noto se altri attori delle minacce abbiano trovato qualcosa di valore nei dati. Tuttavia, la raccolta di dati dalle chat di IA sottolinea anche la potenziale perdita di privacy nell'utilizzo dello strumento. Ci sono più endpoint per interagire con DeepSeek, dal suo sito ufficiale e app all'hosting locale o qualsiasi altro wrapper utilizzato con il modello linguistico e il motore di ragionamento.
La perdita di DeepSeek influirà sugli agenti IA?
I modelli linguistici possono essere utilizzati con maggiore privacy eseguendoli localmente, per cui DeepSeek è ben adatto. Ogni nuovo agente IA ha i propri strumenti per avvolgere il modello linguistico e presentarlo agli utenti.
Venice.AI, uno degli agenti IA più prominenti, afferma di offrire la massima riservatezza. Tuttavia, gli utenti hanno scoperto che Venice.AI invia anche dati in testo chiaro ai suoi server centrali, anche se almeno non utilizza strumenti aggiuntivi esposti al pubblico.
Contrariamente alla loro affermazione, non esiste un'IA privata in https://t.co/bR5IfvDdvI
Tutte le richieste di inferenza vanno al loro Server Centrale in testo chiaro, zero crittografia o privacy.
Tutti i buffer ricevuti sono anche in testo chiaro.
Verificalo da te controllando la scheda Network in Chrome. pic.twitter.com/WDRxog6E5O
— Smit (@0xSmit) 27 gennaio, 2025
L'approccio di Venice.AI è ancora relativamente più confidenziale rispetto alla perdita di dati di DeepSeek.
Inoltre, Venice.AI risponderebbe ad alcune query senza la censura solitamente imposta sul sito centralizzato di DeepSeek. Sebbene sia ancora nelle sue fasi iniziali, intende diventare un hub per a costruire agenti IA aggiuntivi fornendo il modello linguistico e le risorse.
La corsa per creare più agenti utilizzando DeepSeek potrebbe essere un vettore che diffonde altri rischi sconosciuti dal modello linguistico e dal motore di ragionamento. Quasi ogni ora vengono annunciati nuovi agenti, affermando di utilizzare le capacità di DeepSeek per un contenuto migliore a un costo inferiore.
DeepSeek entra in conflitto con l'etica delle criptovalute “Made in USA”
Costruire agenti IA e tokenizzarli facendo affidamento su DeepSeek è visto come un rischio intrinseco per l'utilizzo di un modello linguistico relativamente nuovo e non testato. DeepSeek è diventata l'app più scaricata negli ultimi giorni, ma la comunità delle criptovalute ha chiesto cautela nell'utilizzare questo LLM per costruire prodotti.
La visione più estrema vede il modello DeepSeek come intrinsecamente rischioso, anche quando utilizzato come LLM auto-ospitato.
https://twitter.com/ryan_trat/status/1884860338807722351
I token collegati agli agenti IA sono ancora considerati rischiosi e più vicini all'hype per le meme, attualmente non essendo considerati asset seri da includere nella tendenza delle criptovalute “Made in USA”.
Tuttavia, l'utilizzo di DeepSeek potrebbe squalificare i progetti e sollevare scetticismo sulle loro capacità di raccolta dati e sul potenziale di trasportare malware. Gli agenti costruiti con DeepSeek potrebbero pubblicare informazioni errate o comportarsi in modo erratico.
Un utente di X ha pubblicato:
“Gli agenti costruiti con DeepSeek sono i perfetti agenti del caos: loop all'infinito, ti forniscono dati spazzatura e ti fanno cadere (e il loro account X) invece.”
Altri sostenitori generali delle criptovalute hanno ha avvisato avvertito contro l'interazione con DeepSeek in questa fase, specialmente attraverso l'app ufficiale. Anche giorni prima della perdita di dati, gli analisti di sicurezza informatica hanno avvertito di possibili funzionalità di spionaggio, poiché DeepSeek è Franklin Bi, general partner di Pantera Capital, ha speculato che il crollo possa essere legato al Partito Comunista Cinese attraverso il suo fondatore, Liang Wengfeng.
Seguendo il divieto di TikTok negli Stati Uniti per timori di raccolta dati, l'adozione rapida di DeepSeek è stata considerata una minaccia simile alla sicurezza dei dati.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Hristina Vasileva
Hristina Vasileva si specializza in notizie su DeFi, business ed economia. Si è laureata presso l'Università di Sofia con un Master in Filosofia, dopo aver completato una laurea triennale quadriennale in Amministrazione Aziendale, Giornalismo e Comunicazione di Massa. Ha lavorato per uno dei principali quotidiani del paese, coprendo il settore delle materie prime e i risultati aziendali. Attualmente, Hristina è autrice di notizie collaboratrice per Cryptopolitan.
