10.000 OpenAI-API-Schlüssel von Nutzern wurden von einer gefälschten Chrome-KI-Erweiterung gestohlen

Eine Chrome-Browsererweiterung, die sich als KI-Assistent ausgibt, saugt OpenAI-Anmeldeinformationen von mehr als 10.000 Nutzern ab und sendet sie an Server von Drittanbietern. 

Die Cybersicherheitsplattform Obsidian hat eine Browsererweiterung namens H-Chat Assistant identifiziert, die angeblich als Tool getarnt ist, das Menschen mit den Chatbot-Diensten von OpenAI verbindet.

Die Forscher behaupten, dass es heimlich OpenAI-API-Schlüssel gesammelt und Nutzerdaten an externe Server übertragen hat, was die Kontosicherheit und den Datenschutz gefährdet. Es wurden mindestens 459 eindeutige API-Schlüssel an einen von Hackern kontrollierten Telegram-Kanal ausgegeben, Monate bevor die Entdeckung stattfand.

Chrome-Erweiterung birgt Datenschutz- und Sicherheitsrisiken für OpenAI-Nutzer

Laut Obsidian Security wurde die Software ursprünglich veröffentlichte unter dem Namen ChatGPT Extension vertrieben, bevor sie in H-Chat Assistant umbenannt wurde. Nutzern, die die Erweiterung installierten, wurde angeboten, ihren eigenen OpenAI-API-Schlüssel bereitzustellen, um die Chatbot-Funktionen zu aktivieren. 

Nach Erhalt des Schlüssels funktionierte die Erweiterung weitgehend wie beworben und ermöglichte Gespräche mit KI-Modellen direkt im Browser. Diese scheinbare Legitimität überzeugte Nutzer, dem Webfeature zu vertrauen, aber laut dem Sicherheitsteam gab es im Hintergrund versteckte Datenflüsse.

„Obwohl diese Erweiterungen keine API-Schlüssel, Nutzereingaben und andere Daten aktiv ausspähen, werden Nutzereingaben und andere Daten stillschweigend an Drittanbieter-/externe Server gesendet. Einige der Erweiterungen geben sich als ChatGPT aus und schaffen ein falsches Vertrauensgefühl, dass Gespräche und Daten nur an OpenAI übertragen werden“, erklärten die Analysten.

Obsidian sagte jedoch, dass der eigentliche Diebstahl stattfindet, wenn ein Nutzer einen Chat löscht oder sich von der Anwendung abmeldet. In diesem Moment wird der Schlüssel mit fest codierten Telegramm-Bot-Anmeldeinformationen, die im Code der Erweiterung eingebettet sind, übertragen.

H-Chat Assistant forderte auch Lese- und Schreibberechtigungen für Googles Dienste an, was Ermittler glauben lassen, dass Daten, die in den Google Drive-Konten der Opfer gespeichert sind, exponiert werden könnten. 

Die Sicherheitsexperten von Obsidian glauben, dass die bösartige Aktivität im Juli 2024 begann und monatelang unbemerkt blieb, während Nutzer weiterhin das Tool installierten und nutzten. Am 13. Januar 2025 entdeckten sie die Aktivität und meldeten sie OpenAI über Offenlegungskanäle. 

Am selben Tag widerrief OpenAI kompromittierte API-Schlüssel, um die Missbrauchsmöglichkeiten der App einzuschränken. Selbst nach der Offenlegung und den Widerrufen war die Erweiterung laut dem Bericht von Obsidian weiterhin im Chrome Web Store verfügbar. 

H-Chat Assistant ist Teil eines bösartigen Toolsets 

Mindestens 16 Chrome-Erweiterungen, die KI-bezogene Produktivitätsverbesserungen versprechen, scheinen dieselben Entwickler-Fingerabdrücke zu teilen. Diese Tools sollen von einem einzigen Bedrohungsakteur entwickelt worden sein, der Anmeldeinformationen und Sitzungsdaten sammelt. 

Laut von Forschern zitierten Erkenntnissen waren die Downloads der 16 Erweiterungen relativ niedrig und beliefen sich auf insgesamt etwa 900 Installationen. Dennoch sagen Analysten, dass die Taktik besorgniserregend ist, aufgrund ihrer Skalierbarkeit und der Beliebtheit von KI-Add-ons in Browsern.

„GPT Optimizers sind beliebt, und es gibt genügend hoch bewertete, legitime Varianten im Chrome Web Store, dass Menschen Warnsignale leicht übersehen könnten. Eine der Varianten hat ein hervorgehobenes Logo, das angibt, dass sie empfohlene Praktiken für Chrome-Erweiterungen befolgt“, schrieb LayerX-Sicherheitsberaterin Natalie Zargarov in einem Bericht am Montag veröffentlichten Artikel.

Zargarov fügte hinzu, dass diese Erweiterungen eine tiefe Integration mit authentifizierten Webanwendungen erfordern, um eine „materiell erweiterte Browser-Angriffsfläche“ zu schaffen. Die bösartigen Erweiterungen nutzen Schwachstellen in webbasierten Authentifizierungsprozessen aus, die von ChatGPT-bezogenen Diensten verwendet werden.

„Von den 16 in dieser Kampagne identifizierten Erweiterungen wurden 15 über den Chrome Web Store verbreitet, während eine Erweiterung über den Microsoft Edge Add-ons-Marktplatz veröffentlicht wurde“, erklärte die Forscherin.

Erweiterung sendet Metadaten und Client-Identifikatoren, Forscher findet

In ihrer Analyse fand die LayerX-Beraterin heraus, dass die Erweiterungen mehr Informationen als nur API-Schlüssel sendeten. Die Erweiterung übertrug Erweiterungs-Metadaten, einschließlich Versionsdetails, Spracheinstellungen und Client-Identifikatoren.

Sie sendete auch Nutzungs-Telemetrie, Ereignisdaten und vom Backend ausgestellte Zugriffstoken, die mit den Diensten der Erweiterung verknüpft sind. Diese kombinierten Datenpunkte ermöglichen es Angreifern, Token-Berechtigungen auszuweiten, Nutzer in Sitzungen zu verfolgen und Verhaltensprofile zu erstellen. 

Zargarov bemerkte, dass die Downloads im Vergleich zu GhostPoster, das mehr als 830.000 Installationen überschritt, und Roly Poly VPN, das 31.000 überschritt, gering waren. Dennoch warnte sie, dass KI-fokussierte Tools schnell an Popularität gewinnen könnten. 

„Es braucht nur eine Iteration, damit eine bösartige Erweiterung populär wird. Wir glauben, dass GPT-Optimizers bald genauso populär werden werden wie (nicht mehr als) VPN-Erweiterungen“, schrieb sie.