ChatGPT wegen diffamierender Halluzinationen mit einer Datenschutzbeschwerde konfrontiert

Der Chatbot ChatGPT von OpenAI wird in Europa wegen Datenschutzbeschwerden untersucht. Er neigt dazu, falsche Informationen zu verbreiten. Gefährlich, nicht wahr? Diesen Fall können die Regulierungsbehörden wohl kaum ignorieren.

Ein Mann in Norwegen erhält Hilfe vom Europäischen Zentrum für digitale Rechte (Noyb), nachdem er festgestellt hatte, dass der Chatbot ChatGPT falsche Informationen verbreitet hatte. Der Chatbot behauptete, er sei wegen Mordes an zwei seiner Kinder und versuchten Mordes an einem dritten verurteilt worden. Diese Information könnte ihm später zum Verhängnis werden.

Das Verrückte daran ist, dass OpenAI keine Möglichkeit bietet, die falschen Informationen zu korrigieren, die die KI über einen generiert. Stattdessen bietet OpenAI an, Antworten auf solche Fragen zu blockieren. Die entscheidende Frage ist, ob die Informationen verworfen werden oder später generiert werden können.

Andererseits gewährt die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union den Bürgern Zugang zu ihren Daten und das Recht auf deren Berichtigung. Ein weiterer Teil dieses Datenschutzgesetzes besagt, dass die Verantwortlichen für personenbezogene Daten deren Richtigkeit sicherstellen müssen. Dies macht den vorliegenden Fall relevant.

Joakim Söderberg, Datenschutzanwalt bei Noyb, sagte: „Die DSGVO ist eindeutig. Personenbezogene Daten müssen korrekt sein. […] Sind sie es nicht, haben die Nutzer das Recht, sie korrigieren zu lassen, damit sie der Wahrheit entsprechen.“

Er fügte hinzu: „ChatGPT-Nutzern lediglich einen kleinen Hinweis anzuzeigen, dass der Chatbot Fehler machen kann, reicht eindeutig nicht aus. Man kann nicht einfach falsche Informationen verbreiten und am Ende einen kleinen Hinweis hinzufügen, der besagt, dass alles Gesagte möglicherweise nicht der Wahrheit entspricht.“

Einzelheiten zu den laufenden Ermittlungen

Der Chatbot erzählt auf die Frage nach Arve Hjalmar Holmen eine traurige Geschichte über ihn. Er berichtet, dass er wegen Kindermordes verurteilt und zu 21 Jahren Haft verurteilt wurde, weil er zwei seiner eigenen Kinder getötet hatte.

Warum ist das nun noch gefährlicher? Auch wenn es nicht stimmt, dass Hjalmar Holmen ein Kindermörder ist, weist Noyb darauf hin, dass ChatGPTs Antwort durchaus einige Wahrheiten enthält. Beispielsweise hat die betreffende Person tatsächlich drei Kinder.

Der Chatbotdentauch das Geschlecht seiner Kinder und nannte seinen Heimatort korrekt. Dass die KI aber auch solch ungeheuerliche Lügen erfunden hat, macht die Sache umso seltsamer und beunruhigender.

Ein Vertreter von Noyb erklärte, man wisse nicht, warum der Chatbot eine so detaillierte, aber falsche Hintergrundgeschichte für diese Person erfunden habe. Ein Sprecher sagte, man habe Nachforschungen angestellt, um sicherzustellen, dass es sich nicht um eine Verwechslung mit einer anderen Person handle. Man habe Zeitungsarchive durchsucht, aber keinen Grund dafür gefunden, warum die KI den Kindermord erfunden habe.

Zum jetzigen Zeitpunkt lässt sich am besten erklären, dass große Sprachmodelle, wie dasjenige, das ChatGPT zugrunde liegt, im Grunde genommen die Vorhersage des nächsten Wortes in einem riesigen Umfang durchführen. 

Aus diesem Grund enthielten die zum Trainieren des Tools verwendeten Datensätze viele Berichte über Kindstötungen, was die Wortwahl bei der Beantwortung einer Frage zu einem namentlich genannten Mann beeinflusste. Ungeachtet der Gründe ist jedoch klar, dass solche Ergebnisse absolut inakzeptabel sind.

Noyb zufolge verbreitete der Chatbot nach einem Update des zugrundeliegenden KI-Modells keine gefährlichen Lügen mehr über Hjalmar Holmen. Diese Änderung hängt damit zusammen, dass das Tool nun im Internet nach Informationen über die Person sucht, wenn es nach ihrer Identität gefragt wird.

Obwohl ChatGPT anscheinend aufgehört hat, schädliche Lügen über Hjalmar Holmen zu verbreiten, sind sowohl Noyb als auch Hjalmar Holmen weiterhin besorgt. Was, wenn das KI-Modell falsche und schädliche Informationen über ihn gespeichert hat?

Die norwegische Datenschutzbehörde hat eine Beschwerde gegen OpenAI erhalten. Noyb hofft, dass die Behörde sich für eine Untersuchung zuständig fühlt, da sich die Beschwerde gegen die US-Niederlassung von OpenAI richtet. In der Beschwerde wird argumentiert, dass die irische Niederlassung nicht allein für Produktentscheidungen verantwortlich ist, die Europäer betreffen.

Das Schicksal von OpenAI

Dies ist nicht das erste Mal für OpenAI. Nutzer haben sich bereits zuvor darüber beschwert, dass ChatGPT falsche persönliche Daten erstellt, beispielsweise ein falsches Geburtsdatum oder falsche biografische Informationen. 

Die italienische Datenschutzbehörde schritt frühzeitig im Rahmen der DSGVO ein und sperrte im Frühjahr 2023 vorübergehend den Zugang zu ChatGPT in Italien. Dies veranlasste OpenAI zu Änderungen, beispielsweise hinsichtlich der den Nutzern bereitgestellten Informationen. Anschließend verhängte die Behörde eine Geldstrafe von 15 Millionen Euro gegen OpenAI wegen der missbräuchlichen Verwendung personenbezogener Daten.

Interessant ist auch, dass die polnische Datenschutzbehörde seit September 2023 eine Beschwerde wegen Datenschutzverstößen gegen ChatGPT prüft und noch immer keine Entscheidung getroffen hat.

Seitdem sind Datenschutzbeauftragte in Europa gegenüber GenAI vorsichtiger geworden. Das liegt daran, dass sie noch immer herausfinden müssen, wie die DSGVO am besten auf diese weit verbreiteten KI-Tools angewendet werden kann.

In einer früheren Beschwerde gegen Noyb ChatGPT erklärte die irische Datenschutzkommission (DPC) jedoch vor zwei Jahren, man solle beispielsweise GenAI-Tools nicht vorschnell verbieten. Die DPC ist für die Durchsetzung der DSGVO zuständig. Dies bedeutet vielmehr, dass sich die Behörden Zeit nehmen sollten, die genaue Funktionsweise des Gesetzes zu klären.

Noybs neue Beschwerde gegen ChatGPT scheint Datenschutzbehörden auf die Gefahren halluzinierender KI aufmerksam machen zu wollen. Bestätigte Verstöße gegen die DSGVO können Bußgelder von bis zu 4 % des weltweiten Jahresumsatzes nach sich ziehen.