KI-„Halluzinationen“ führen zu Beschwerde wegen Datenschutzverstößen

Noyb, die unabhängige österreichischedent , die von dem Anwalt Max Schrems gegründet wurde, hat bei der EU-Datenschutzbehörde eine Beschwerde bezüglich OpenAI – wegen eines Verstoßes gegen die DSGVO und weil OpenAI keine Abhilfe bei fehlerhaften Informationen geschaffen hat.

Beschwerde wegen Datenschutzverletzung eingereicht

Schrems, ein bekannter Datenschutzanwalt und engagierter Aktivist, hat einige der wichtigsten Datenschutzbeschwerden in der EU angestoßen. OpenAI sieht sich der DSB (Österreichische Gesellschaft für Dominanz und Diskriminierung) gegenüber, deren Klage sich auf „Halluzinationen“ konzentriert – die falschen Antworten, die große Sprachmodelle der künstlichen Intelligenz häufig liefern. Die beantragte Maßnahme umfasst eine Untersuchung des Verstoßes, eine Feststellungsklage, eine Strafe und die Prüfung von Abhilfemaßnahmen.

Dem Unternehmen OpenAI ist der Datenschutzverstoß angeblich bekannt, doch das spielt keine Rolle. Laut Pressemitteilung befindet sich Noybs Stellungnahme in einer Erklärung zur Einreichung der Klage.

Große Modelle, darunter ChatGPT, berechnen die Wörter, die für bestimmte Auswahlen am sinnvollsten sind. Es kommt vor, dass das Modell aufgrund mangelnder Kontextkenntnis die falschen Wörter auswählt und somit eine falsche Antwort oder – im Fachjargon „Halluzination“ genannt – eine Fehlinterpretation liefert.

Dies steht jedoch nicht im Einklang mit den individuellen Rechten im Sinne der „Privatsphäre“, so Noyb. Die europäische Gesetzgebung hat seit 1995 die Notwendigkeit der Genauigkeit personenbezogener Daten nicht ausreichend betont, und die DSGVO, das neueste Datenschutzgesetz der EU, verpflichtet zu einem präzisen Schutz personenbezogener Daten.

Bekämpfung von KI-„Halluzinationen“

In diesem Zusammenhang wies Noyb darauf hin, dass die persönlichen Daten jedes öffentlichen Kommentators ohne Geburtsdatum online verfügbar sind. ChatGPT antwortete fälschlicherweise mit seinem Geburtsdatum, da die Frage fehlerhaft formuliert war.

Auch OpenAI war mit der unaufgeforderten Antwort bezüglich des Zugriffs auf und der Löschung der Daten, die Gegenstand der im Dezember 2023 durchgeführten Untersuchung waren, nicht zufrieden. Gemäß der DSGVO müssen Datenverantwortliche die betroffene Person über die Verarbeitung ihrer personenbezogenen Daten informieren und die Daten der betroffenen Person auf deren Anfrage löschen, wobei Einschränkungen der Löschung zulässig sind.

Noyb, der in dem Fall als Beschwerdeführer auftrat, stellte fest, dass der Dienst dem Nutzer statistische Daten zur Verfügung stellte; Informationen über die Datennutzung durch das System wurden jedoch nicht bereitgestellt.

Datenanfragen falsch bearbeitet

Wie OpenAI erklärte, versprachen sie, neben der Übermittlung einer informativen Botschaft ihr Bestes zu tun, um zu verhindern, dass das Modell als Antwort auf die Anfrage das Geburtsjahr angibt; laut der Beschwerde können sie die falsch angezeigte Antwort jedoch nicht korrigieren.

Dies wiederum führte dazu, dass weitere Informationen über die betroffene Person von ChatGPT. Dadurch wurde das Recht der Öffentlichkeit auf Informationen über diese Person – eine bekannte Persönlichkeit – beeinträchtigt, die OpenAI im Rahmen eines Einspruchs gemeldet hatte.

In der Behauptung hieß es: „Keine Aktion eines Chatbots kann die Informationen korrigieren, kein Filter kann selektiv aussortieren, und schlichtweg kann kein Betroffener dieser Situation gemäß den Vorgaben des Verantwortlichen nachkommen.“

Es handele sich lediglich um die irische Niederlassung, der Hauptsitz befinde sich weiterhin in den USA, erklärte Noyb gegenüber der EU-Wettbewerbskommissarin Margrethe Vestager. Die Beklagte sei in der Klage genannt worden, da sie eine Tochtergesellschaft des US-amerikanischen Unternehmens OpenAI OpCo LLC sei, was in den Allgemeinen Geschäftsbedingungen des Unternehmens aufgeführt sei.