10.000 chiavi API di OpenAI degli utenti sono state rubate da una falsa estensione AI di Chrome

Un'estensione del browser Chrome che si spaccia per un assistente di intelligenza artificiale sta sottraendo le credenziali di OpenAI a oltre 10.000 utenti e inviandole a server di terze parti. 

La piattaforma di cybersecurity Obsidian ha identificato un'estensione del browser chiamata H-Chat Assistant che presumibilmente si maschera come uno strumento che connette le persone ai servizi di chatbot di OpenAI.

I ricercatori affermano che ha raccolto segretamente le chiavi API di OpenAI e ha trasmesso i dati degli utenti a server esterni, mettendo a rischio la sicurezza degli account e la privacy dei dati. Aveva già esfiltrato almeno 459 chiavi API uniche su un canale Telegram controllato dagli hacker mesi prima della sua scoperta.

L'estensione Chrome presenta rischi per la privacy e la sicurezza degli utenti di OpenAI

Secondo Obsidian Security, il software era inizialmente ha rilasciato sotto il nome ChatGPT Extension prima di essere ribattezzato H-Chat Assistant. Gli utenti che hanno installato l'estensione sono stati invitati a fornire la propria chiave API OpenAI per attivare le funzionalità del chatbot. 

Dopo aver ricevuto la chiave, l'estensione ha funzionato in gran parte come pubblicizzato, consentendo conversazioni con modelli di IA direttamente nel browser. Questa apparente legittimità ha convinto gli utenti a fidarsi della funzione web, ma secondo il team di analisi della sicurezza, c'erano flussi di dati nascosti in background.

“Sebbene queste estensioni non stiano attivamente esfiltrando chiavi API, prompt degli utenti e altri dati, vengono tranquillamente inviati a server di terze parti/esterni. Alcune delle estensioni impersonano ChatGPT, creando una falsa sensazione di fiducia che le conversazioni e i dati vengano trasmessi solo a OpenAI”, hanno spiegato gli analisti.

Tuttavia, Obsidian ha dichiarato che il furto effettivo avviene quando un utente elimina una chat o sceglie di disconnettersi dall'applicazione. In quel momento, la chiave viene trasmessa utilizzando le credenziali hardcoded del bot Telegram incorporate nel codice dell'estensione.

H-Chat Assistant richiedeva anche permessi di lettura e scrittura per i servizi di Google, che gli investigatori credono potrebbero esporre i dati archiviati negli account Google Drive delle vittime. 

I ricercatori della sicurezza di Obsidian ritengono che l'attività malevola sia iniziata nel luglio 2024 ed è passata inosservata per mesi, mentre gli utenti continuavano a installare e utilizzare lo strumento. Il 13 gennaio 2025, hanno scoperto l'attività e l'hanno segnalata a pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. tramite canali di divulgazione. 

Lo stesso giorno, OpenAI ha revocato le chiavi API compromesse per ridurre l'abuso dell'app. Anche dopo la divulgazione e le revocazioni, l'estensione era ancora disponibile nel Chrome Web Store, secondo il rapporto di Obsidian. 

H-Chat Assistant fa parte di un set di strumenti malevoli 

Almeno 16 estensioni Chrome che promettono miglioramenti della produttività legati all'IA sembrano condividere le stesse impronte digitali dello sviluppatore. Si ritiene che questi strumenti siano stati costruiti da un singolo threat actor che sta raccogliendo credenziali e dati di sessione. 

Secondo i risultati citati dai ricercatori, i download delle 16 estensioni sono stati relativamente bassi, per un totale di circa 900 installazioni. Tuttavia, gli analisti dicono che la tattica è preoccupante per la sua scalabilità e la popolarità degli add-on IA sui browser.

“I GPT Optimizers sono popolari e ci sono abbastanza versioni altamente valutate e legittime sul Chrome Web Store che le persone potrebbero facilmente perdere eventuali segnali di allarme. Una delle varianti ha un logo in evidenza che afferma di seguire le pratiche raccomandate per le estensioni Chrome”, ha scritto Natalie Zargarov, consulente della sicurezza di LayerX, in un rapporto pubblicato lunedì.

Zargarov ha aggiunto che queste estensioni richiedono un'integrazione profonda con applicazioni web autenticate per lanciare una “superficie di attacco del browser notevolmente ampliata”. Le estensioni malevole sfruttano le debolezze nei processi di autenticazione web utilizzati dai servizi correlati a ChatGPT.

“Delle 16 estensioni identificate in questa campagna, 15 sono state distribuite tramite il Chrome Web Store, mentre un'estensione è stata pubblicata tramite il marketplace Microsoft Edge Add-ons”, ha spiegato la ricercatrice.

L'estensione invia metadati e identificatori del client, trova il ricercatore

Nella sua analisi, la consulente di LayerX ha scoperto che le estensioni stavano inviando più informazioni oltre alle chiavi API. L'estensione trasmetteva metadati dell'estensione, inclusi dettagli sulla versione, impostazioni della lingua e identificatori del client.

Inviava anche telemetria d'uso, dati degli eventi e token di accesso emessi dal backend legati ai servizi dell'estensione. Questi punti dati combinati consentono agli attaccanti di espandere i privilegi dei token, tracciare gli utenti nelle sessioni e costruire profili comportamentali. 

Zargarov ha notato che i download erano piccoli rispetto a GhostPoster, che ha superato le 830.000 installazioni, e Roly Poly VPN, che ha superato le 31.000. Tuttavia, ha avvertito che gli strumenti focalizzati sull'IA potrebbero rapidamente aumentare di popolarità. 

“Basta un'iterazione perché un'estensione malevola diventi popolare. Crediamo che i GPT optimizers diventeranno presto popolari quanto (non più di) le estensioni VPN”, ha scritto.