ChatGPT erhält Datenschutzbeschwerde wegen diffamierender Halluzinationen

Der Chatbot von OpenAI, ChatGPT, wird in Europa wegen Datenschutzbeschwerden untersucht. Er hat eine Tendenz gezeigt, falsche Informationen zu halluzinieren. Gefährlich, nicht wahr? Dieser Fall könnte für Regulierungsbehörden schwer zu ignorieren sein.

Eine Person in Norwegen erhält Hilfe vom European Center for Digital Rights, Noyb, nachdem ChatGPT falsche Informationen zurückgegeben hatte. Der Chatbot behauptete, er sei schuldig befunden worden, zwei seiner Kinder getötet und versucht zu haben, ein drittes zu töten. Diese Informationen könnten ihn später noch einholen.

Das Wahnsinnige daran ist, dass OpenAI den Menschen keine Möglichkeit gibt, die falschen Informationen zu korrigieren, die die KI über sie erfindet. Stattdessen bietet OpenAI an, Antworten auf solche Fragen zu blockieren. Die Hauptfrage ist, ob die Informationen verworfen werden oder später erneut generiert werden könnten.

Andererseits gewährt die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union den Menschen Zugang zu ihren Daten und das Recht, ihre persönlichen Daten korrigieren zu lassen. Ein weiterer Teil dieses Datenschutzgesetzes besagt, dass Personen, die für persönliche Daten verantwortlich sind, sicherstellen müssen, dass diese korrekt sind. Dies macht dieses Thema zu einem Fall.

Joakim Söderberg, ein Datenschutzanwalt bei Noyb, sagte, „Die DSGVO ist klar. Persönliche Daten müssen genau sein. […] Wenn dem nicht so ist, haben Nutzer das Recht, sie ändern zu lassen, um die Wahrheit widerzuspiegeln.“

Er fügte hinzu, „ChatGPT-Nutzern eine winzige Warnung zu zeigen, dass der Chatbot Fehler machen kann, ist eindeutig nicht genug. Man kann nicht einfach falsche Informationen verbreiten und am Ende eine kleine Warnung hinzufügen, dass alles, was gesagt wurde, möglicherweise nicht wahr ist.“

Details der laufenden Untersuchungen

Der Chatbot erzählt eine traurige Geschichte über Arve Hjalmar Holmen, wenn man ihn fragt, wer er ist. Er sagt, er sei schuldig befunden worden, Kinder zu ermorden, und habe 21 Jahre Gefängnisstrafe erhalten, weil er zwei seiner eigenen Kinder getötet hat.

Warum ist das noch gefährlicher? Obwohl es nicht wahr ist, dass Hjalmar Holmen ein Kindermörder ist, weist Noyb darauf hin, dass die Antwort von ChatGPT einige Wahrheiten enthält. Zum Beispiel hat die betreffende Person tatsächlich drei Kinder.

Der Chatbot identifizierte auch korrekt das Geschlecht seiner Kinder und nannte korrekt seine Heimatstadt. Die Tatsache, dass die KI auch solche schrecklichen Lügen erfand, macht es jedoch noch seltsamer und beunruhigender.

Ein Vertreter von Noyb sagte, sie wüssten nicht, warum der Chatbot einen so detaillierten, aber falschen Hintergrund für diese Person erfunden habe. Ein Sprecher sagte, sie hätten recherchiert, um sicherzustellen, dass es sich nicht nur um eine Verwechslung mit einer anderen Person handelte. Der Sprecher sagte, sie hätten Zeitungsarchive durchsucht, konnten aber keinen Grund dafür finden, warum die KI den Kindermord erfand.

Derzeit ist die beste Erklärung, dass große Sprachmodelle, wie das, das ChatGPT antreibt, im Grunde eine Vorhersage des nächsten Wortes in großem Maßstab durchführen. 

Aus diesem Grund enthielten die Datensätze, die zur Schulung des Tools verwendet wurden, viele Geschichten über Filizid, die die Wörter beeinflussten, die es zur Beantwortung einer Frage über einen benannten Mann wählte. Unabhängig vom Grund ist jedoch klar, dass solche Ausgaben überhaupt nicht in Ordnung sind.

In der Zwischenzeit sagt Noyb , dass der Chatbot nach dem Update des zugrunde liegenden KI-Modells aufgehört hat, gefährliche Falschinformationen über Hjalmar Holmen zu verbreiten. Diese Änderung hängt damit zusammen, dass das Tool nun im Internet nach Informationen über Personen sucht, wenn es nach deren Identität gefragt wird.

Obwohl ChatGPT anscheinend aufgehört hat, schädliche Lügen über Hjalmar Holmen zu verbreiten, sind sowohl Noyb als auch Hjalmar Holmen weiterhin besorgt. Was, wenn das KI-Modell falsche und schädliche Informationen über ihn gespeichert hat?

Die norwegische Datenschutzbehörde hat eine Beschwerde gegen OpenAI erhalten. Noyb hofft, dass die Aufsichtsbehörde entscheiden wird, dass sie die Befugnis hat, zu untersuchen, da sich die Beschwerde auf die US-Sparte von OpenAI richtet. Die Beschwerde besagt, dass ihr irisches Büro nicht allein für Produktentscheidungen verantwortlich ist, die Europäer betreffen.

OpenAIs Schicksal

Dies ist nicht das erste Mal für OpenAI. Menschen haben sich zuvor über die Erstellung falscher persönlicher Daten durch ChatGPT beschwert, wie ein falsches Geburtsdatum oder falsche biografische Informationen. 

Italiens Datenschutzbehörde griff frühzeitig gemäß der DSGVO ein und stoppte den ChatGPT-Zugang im Land vorübergehend im Frühjahr 2023. Dies veranlasste OpenAI, Dinge zu ändern, wie die Informationen, die es Nutzern gibt. Danach bestrafte die Aufsichtsbehörde OpenAI mit einer Geldstrafe von 15 Millionen Euro für die Verwendung von Personendaten ohne gültigen Grund.

Es ist auch interessant, dass Polens Datenschutzbehörde seit September 2023 eine Datenschutzbeschwerde gegen ChatGPT untersucht und noch keine Entscheidung getroffen hat.

Seitdem sind Datenschutzbeamte in Europa vorsichtiger gegenüber GenAI geworden. Dies liegt daran, dass sie noch herausfinden, wie man die DSGVO am besten auf diese beliebten KI-Tools anwenden kann.

In einer früheren Beschwerde über Noyb ChatGPT sagte die irische Datenschutzkommission (DPC) jedoch vor zwei Jahren, dass man GenAI-Tools nicht überstürzt verbannen sollte. Die DPC ist für die Durchsetzung der DSGVO verantwortlich. Stattdessen bedeutet dies, dass Beamte sich Zeit nehmen sollten, um herauszufinden, wie das Gesetz funktioniert.

Es sieht so aus, als ob die neue ChatGPT-Beschwerde von Noyb Datenschutzbeamte auf die Gefahren von KI-Tools, die halluzinieren, aufmerksam machen soll. Bestätigte Verstöße gegen die DSGVO können zu Geldstrafen von bis zu 4 % des weltweiten Jahresumsatzes führen.