DeepSeek svela le perdite: le chat degli agenti AI sono esposte?

DeepSeek, l'intelligenza artificiale che ha sorpreso il mondo con la sua produttività, è ora sotto accusa per aver archiviato dati non protetti in database accessibili al pubblico. La fuga di dati mette in discussione tutti gli agenti di intelligenza artificiale che hanno rapidamente adottato il modello linguistico. 

Pochi giorni dopo aver guadagnato popolarità, DeepSeek è stato smascherato come pericoloso, poiché diffondeva log di dati in un database ClickHouse accessibile al pubblico e non protetto. I dati esposti contenevano log di chat e informazioni sensibili degli utenti e potevano rivelare account e password. ClickHouse, uno strumento di analisi dei database dell'azienda informatica russa Yandex, è stato utilizzato per trasportare il traffico senza ulteriori protezioni.

I dati delle chat trapelati potrebbero contenere password e file locali, sebbene i ricercatori dell'azienda di sicurezza informatica Wiz non abbiano effettuato ricerche per informazioni potenzialmente sensibili. È possibile che il database contenesse chiavi segrete API. Complessivamente, i ricercatori hanno scoperto oltre 1 milione di righe di dati dopo tractutte le connessioni aperte durante una sessione di DeepSeek. 

Da questo punto in poi, la convalida dell'esposizione è stata piuttosto semplice, esaminando l'API di ClickHouse, siamo stati in grado di accedere all'API HTTP che consente di interrogare direttamente il database MySQL

Si è verificata una significativa esposizione di dati, in particolare dalla tabella log_stream, nel corso di… pic.twitter.com/NhS2gyfBpJ

— Nagli (@galnagli) 29 gennaio 2025

La fuga di notizie è stata scoperta dopo tracl'interfaccia principale della chat, scoprendo fino a 30 sottodomini che eseguivano attività tecniche per lo più innocue per lo strumento di intelligenza artificiale. Dopo il completamento dei test di vulnerabilità, alcuni dei database più controversi sono ora protetti e inaccessibili. 

Il team di DeepSeek si è fatto avanti dopo i test, affermando che nessuna delle scoperte era stata resa pubblica prima del ripristino della sicurezza. Tuttavia, poche ore prima che la fuga di dati del database diventasse pubblica, un altro utente anonimo di X aveva segnalato un problema con i database non protetti, che all'epoca era stato considerato un tentativo di truffa o di esca.

Al momento, non è noto se altri autori di minacce abbiano trovato qualcosa di utile nei dati. Tuttavia, la raccolta di dati dalle chat di intelligenza artificiale evidenzia anche la potenziale perdita di privacy durante l'utilizzo dello strumento. Esistono diversi endpoint per interagire con DeepSeek, dal suo sito ufficiale e dalla sua app all'hosting locale o a qualsiasi altro wrapper utilizzato con LLM e il motore di ragionamento.

La fuga di notizie di DeepSeek avrà ripercussioni sugli agenti di intelligenza artificiale?

I modelli linguistici possono essere utilizzati con maggiore riservatezza eseguendoli localmente, un'opzione particolarmente indicata per DeepSeek. Ogni nuova personalità di agente AI dispone di strumenti specifici per l'elaborazione del modello linguistico e la sua presentazione agli utenti. 

Venice.AI, uno dei più importanti agenti di intelligenza artificiale, afferma di offrire la massimadent. Tuttavia, gli utenti hanno scoperto che Venice.AI invia anche dati in testo normale ai suoi server centrali, sebbene almeno non utilizzi strumenti aggiuntivi accessibili al pubblico. 

Contrariamente a quanto affermano, non esiste alcuna IA privata in https://t.co/bR5IfvDdvI

Tutte le richieste di inferenza vengono inviate al server centrale in formato testo normale, senza crittografia o privacy.

Anche tutti i buffer ricevuti sono in testo normale.

Verificalo tu stesso controllando la scheda Rete in Chrome. pic.twitter.com/WDRxog6E5O

— Smit (@0xSmit) 27 gennaio 2025

L'approccio di Venice.AI è ancora relativamente piùdentrispetto alla fuga di dati di DeepSeek. 

Inoltre, Venice.AI risponderebbe ad alcune query senza la censura solitamente imposta sul sito centralizzato DeepSeek. Sebbene sia ancora in fase iniziale, intende diventare un hub per la creazione di ulteriori agenti di intelligenza artificiale fornendo il modello linguistico e le risorse. 

La corsa alla creazione di più agenti che utilizzino DeepSeek potrebbe essere un vettore che diffonde altri rischi sconosciuti legati al modello linguistico e al motore di ragionamento. Quasi ogni ora vengono annunciati nuovi agenti, che affermano di utilizzare le funzionalità di DeepSeek per ottenere contenuti migliori a un costo inferiore. 

DeepSeek si scontra con l'etica crittografica "Made in USA"

Costruire agenti di intelligenza artificiale e tokenizzarli affidandosi a DeepSeek è visto come un rischio intrinseco nell'utilizzo di un modello linguistico relativamente nuovo e non testato. DeepSeek è diventata l'app più scaricata negli ultimi giorni, ma la comunità crypto ha invitato alla cautela nell'utilizzo di questo LLM per sviluppare prodotti. 

La visione più estrema ritiene che il modello DeepSeek sia intrinsecamente rischioso, anche quando utilizzato come LLM auto-ospitato. 

https://twitter.com/ryan_trat/status/1884860338807722351

I token collegati agli agenti di intelligenza artificiale sono ancora considerati rischiosi e più vicini all'hype dei meme, e attualmente non sono considerati asset seri da includere nel trend delle criptovalute "Made in USA". 

Tuttavia, l'utilizzo di DeepSeek potrebbe squalificare i progetti e suscitare scetticismo sulle loro capacità di raccolta dati e sul potenziale di veicolazione di malware. Gli agenti creati con DeepSeek potrebbero pubblicare informazioni errate o comportarsi in modo anomalo.

Un utente X ha pubblicato:

"Gli agenti creati con DeepSeek sono gli agenti del caos perfetti: si ripetono all'infinito, ti forniscono dati spazzatura e invece ti fanno fallire (e fanno fallire il loro account X)."

Altri sostenitori generali delle criptovalute hanno messo in guardia dal coinvolgere DeepSeek in questa fase, soprattutto tramite l'app ufficiale. Anche pochi giorni prima della fuga di dati, gli analisti della sicurezza informatica avevano messo in guardia da possibili funzionalità di spionaggio, poiché DeepSeek è collegata al Partito Comunista Cinese attraverso il suo fondatore, Liang Wengfeng.

Dopo il divieto di TikTok negli Stati Uniti per timore di raccolta dati, la rapida adozione di DeepSeek è stata considerata una minaccia analoga alla sicurezza dei dati.