„Halluzinationen“ der KI lösen Datenschutzbeschwerde aus

Noyb, die von Anwalt Max Schrems gegründete österreichische unabhängige Datenschutzorganisation, hat bei der EU-Datenschutzbehörde eine Beschwerde wegen OpenAI eingereicht – wegen Verstoßes gegen die DSGVO und des Versäumnisses, Abhilfe für falsche Informationen zu schaffen.

Datenschutzbeschwerde eingereicht

Schrems, ein bekannter Datenschutzanwalt und fähiger Aktivist, hat einige der wichtigsten Datenschutzbeschwerden in der EU eingeleitet. OpenAI sieht sich der DSB (Österreichische Datenschutzbehörde) gegenüber, deren Herausforderung sich auf „Halluzinationen“ konzentriert, also die falschen Antworten, die KI-Modelle (Künstliche Intelligenz) großer Sprachmodelle tendenziell liefern. Die von der Anordnung geforderte Abhilfe umfasst eine Untersuchung der Verletzung, eine Feststellungsurteil, eine Strafe und die Untersuchung von Korrekturmaßnahmen.

Das Unternehmen OpenAI ist angeblich über den Datenschutzverstoß informiert, aber das spielt keine Rolle. Laut der Pressemitteilung ist die Erklärung von Noyb in einer Ankündigung der Einreichung enthalten.

Große Modelle, einschließlich ChatGPT, führen Berechnungen durch, um diejenigen Wörter vorherzusagen, die für bestimmte Auswahlmöglichkeiten am meisten Sinn ergeben. Es gibt Fälle, in denen das Modell die falschen Wörter auswählt, weil es den Kontext nicht erkennen kann, was zu falschen Antworten oder „Halluzinationen“ führt, einem Fachbegriff der Branche.

Dies steht jedoch nicht im Einklang mit den individuellen Rechten in den „Datenschutz“-Traditionen, daher für Noyb. Die europäische Regulierung ist seit 1995 nicht weit genug gegangen, um die Notwendigkeit der Genauigkeit personenbezogener Daten zu betonen, und die DSGVO, das neueste Datenschutzgesetz der EU, übernimmt die Pflicht zum Schutz genauer personenbezogener Daten.

Zielgerichtete Bekämpfung von KI-„Halluzinationen“

In dieser Hinsicht wies Noyb darauf hin, dass die persönlichen Informationen jedes öffentlichen Kommentators ohne Geburtsdatendetails online verfügbar sind. ChatGPT antwortete fälschlicherweise mit dem Geburtsdatum aufgrund eines Fehlers in der Frage.

OpenAI war auch nicht mit ihrer unerbetenen Antwort bezüglich des Zugriffs und der Löschung der Daten zufrieden, die in der im Dezember 2023 durchgeführten Untersuchungsanfrage enthalten waren. Gemäß der DSGVO müssen Datenverantwortliche die betroffene Person über die Datenverarbeitung informieren und die Daten der betroffenen Person auf Anfrage löschen, wobei Einschränkungen der Löschung erlaubt sind.

Noyb, das als Beschwerdeführer in dem Fall auftrat, stellte fest, dass der Dienst dem Benutzer statistische Daten zur Verfügung stellte; dennoch wurden keine Informationen über die Datennutzung durch das System bereitgestellt.

Fehlerhafte Handhabung von Datenanfragen

Wie OpenAI sagte, versprachen sie neben der Übermittlung einer Bildungsmessage, ihr Bestes zu tun, um das Modell daran zu hindern, das Geburtsjahr als Antwort auf die Anfrage anzugeben; jedoch können sie laut der Beschwerde die falsch angezeigte Antwort nicht korrigieren.

Dies führte wiederum dazu, dass der Teil der betroffenen Person, der mehr Informationen betraf, von ChatGPT blockiert wurde. Dies würde im Sinne der Bedeutung das Recht der Öffentlichkeit auf Information über diese Person – eine bekannte Persönlichkeit – behindern, über die OpenAI eine Beschwerde eingereicht hatte.

Die Behauptung lautete: „Keine Aktion eines Chatbots kann die Informationen korrigieren, kein Filter kann selektiv screenen, oder einfach, dass keine betroffene Person dieser Situation gemäß dem Verantwortlichen entsprechen kann.“

Es ist allein die irische Niederlassung, und der Hauptsitz befindet sich immer noch in den USA, sagte Noyb der EU-Wettbewerbskommissarin Margrethe Vestager. Dieser Beklagte wurde in der Klage genannt, da es sich um eine Einheit des US-Unternehmens OpenAI OpCo LLC handelt, das in den Geschäftsbedingungen des Unternehmens aufgeführt ist.