ChatGPT, OpenAI und 8 weitere KI-Assistenten verfolgen heimlich Benutzerdaten, die privat bleiben sollten

KI-Assistenten, die in Webbrowsern integriert sind, darunter ChatGPT, sammeln sensible persönliche Daten von Websites, von denen viele Nutzer annehmen, dass sie privat sind. Dies zeigt eine neue Studie von Teams aus Großbritannien und Italien.

Die Forscher untersuchten zehn beliebte KI-gestützte Browser und Erweiterungen, darunter OpenAIs ChatGPT, Microsoft Copilot und Merlin AI für Google Chrome, und testeten sie sowohl auf offenen Websites als auch auf passwortgeschützten Portalen wie dem Gesundheitsdatensystem einer Universität.

Private Seiten gaben Informationen an ChatGPT und ähnliche Tools preis

Die Ergebnisse der Studie waren schockierend. Sie zeigten, dass neun von zehn Tools private Daten abgerufen und weitergegeben haben, darunter medizinische Historien, Bankdetails, akademische Zeugnisse sowie sogar Sozialversicherungsnummern.

Perplexity AI war das einzige Tool, das keine solchen Daten zu sammeln schien.

„Diese Assistenten haben eine Zugriffsstufe zu unserer Online-Aktivität, wie wir sie noch nie zuvor gesehen haben",", sagte Anna Maria Mandalari, die leitende Autorin der Studie und Assistenzprofessorin am University College London.
2":"Sie machen Dinge schneller und einfacher, aber unsere Erkenntnisse zeigen, dass dies manchmal auf Kosten der Privatsphäre geht und in einigen Fällen sogar gegen das Gesetz verstoßen kann.

„Sie machen Dinge schneller und einfacher, aber unsere Beweise zeigen, dass dies manchmal auf Kosten der Privatsphäre geht und in einigen Fällen das Gesetz brechen kann.“

Mandalari.

Um die Tests durchzuführen, simulierte das Team alltägliche Aktivitäten wie Surfen im Internet, Online-Einkäufe, Abrufen von medizinischen Befunden und Anmelden bei Bankkonten. Anschließend stellten sie den Assistenten Folgefragen, etwa: Was war der Grund für den letzten Arztbesuch?

Durch Abfangen und Decodieren der Daten, die zwischen dem Browser des Nutzers, den Servern des KI-Unternehmens und Drittanbieter-Trackern ausgetauscht wurden, stellten die Forscher fest, dass einige Assistenten weiterhin vollständige Seiteninhalte von angeblich sicheren Websites sammelten und übertrugen.

Was Merlin betrifft, so stellten die Forscher eine Mischung aus sensiblen Daten fest, einschließlich Gesundheitsakten, Bankdetails, Prüfungsergebnissen und Sozialversicherungsnummern von Steuerzahlern.

Die KI-Assistenten Peers Sider und TinaMind wurden dabei beobachtet, wie sie Nutzeranfragen an Google Analytics sendeten sowie essentielle Informationen wie IP-Adressen erfassten. Diese Daten könnten für gezielte Werbung und übergreifendes Tracking verwendet werden.

Laut den Forschern hielten andere Assistenten wie Copilot und Monica selbst nach Ende einer Sitzung vollständig Chat-Protokolle im Browser gespeichert.

Bei Zugriff über bestimmte Browser-Erweiterungen erstellte der von OpenAI entwickelte ChatGPT Profile basierend auf dem geschätzten Alter, Einkommensniveau, Geschlecht und Interessen der Nutzer und passte seine Antworten entsprechend an.

„Es gibt einfach keine klare Möglichkeit für Nutzer zu wissen, wohin diese Informationen gelangen, sobald sie gesammelt wurden“, warnte Mandalari.

Kürzlich warnte OpenAI-CEO Sam Altman Nutzer vor Datenschutzbedenken und riet dazu, bei bestimmten Anwendungen vorsichtig mit Chatbots wie ChatGPT zu sein, da diese nicht über dieselben Datenschutzvorkehrungen verfügen wie beispielsweise ein echter Arzt oder Anwalt.

Können KI-Tools gegen Gesetze verstoßen?

Die Forschung wurde in den Vereinigten Staaten durchgeführt, doch das Team kam zu dem Schluss, dass einige KI-Assistenten wahrscheinlich sowohl gegen amerikanische als auch gegen europäische Datenschutzgesetze verstoßen. In den USA scheinen bestimmte Fälle Regeln zur Schutz von Gesundheitsdaten zu verletzen, während die Ergebnisse in der EU auf potenzielle Verstöße gegen die Datenschutz-Grundverordnung (DSGVO) hindeuten, die strenge Grenzen für die Speicherung und Weitergabe personenbezogener Daten festlegt.

Selbst wenn Unternehmen Datenschutzerklärungen veröffentlichen, können die Kleingedruckten erschreckend sein. Merlins EU- und UK-Richtlinie listet beispielsweise Namen, Kontaktdaten, Login-Daten, Transaktionsaufzeichnungen, Zahlungsinformationen und alle getippten Eingaben als Daten auf, die sie erheben könnte. Es wird ausgeführt, dass diese für Personalisierung, Kundensupport oder rechtliche Compliance genutzt werden können.

Sider macht ähnliche Angaben und fügt hinzu, dass Nutzerdaten für „Einblicke“ analysiert oder zur Entwicklung neuer Dienste verwendet werden können. Als mögliche Empfänger von Daten werden Google, Cloudflare und Microsoft genannt, wobei versichert wird, dass Partner durch Verträge verpflichtet sind, personenbezogene Informationen zu schützen.

OpenAIs eigene Nutzungsbedingungen bestätigen, dass Daten von Nutzern aus dem Vereinigten Königreich und der EU außerhalb dieser Regionen gespeichert werden, obwohl das Unternehmen sagt, dass die Rechte der Nutzer unberührt bleiben.

„Diese Produkte werden als Mittel beworben, um die Internetnutzung schneller und intelligenter zu machen

Während Aufsichtsbehörden den Datenschutz verschärfen und Technologieunternehmen eifrig versuchen, KI in jeden Winkel des Internets zu integrieren, wird die Prüfung dieser Tools voraussichtlich zunehmen.

Für jetzt empfehlen die Forscher Vorsicht. Während Perplexity AI den Fallstricken der Privatsphäre in ihren Tests auswich, taten die meisten anderen dies nicht. „Wenn Sie einer KI erlauben, alles zu sehen, was Sie online tun“, sagte Mandalari, „sollten Sie davon ausgehen, dass diese Informationen irgendwo, irgendwie gespeichert werden, und vielleicht sogar geteilt werden.“