- Eine Beschwerde wurde gegen OpenAI in Österreich eingereicht, da dessen ChatGPT Halluzinationen aufwies. Dies geschah durch eine digitale Rechte-Organisation namens Noyb.
- ChatGPT lieferte falsche Informationen über den Geburtstag einer öffentlichen Persönlichkeit und weigerte sich, diese zu löschen oder zu korrigieren.
- Noybs Anwalt erklärt, dass Unternehmen keine Chatbots entwickeln können, die die Anforderungen der EU-Gesetzgebung erfüllen.
Eine Datenschutzorganisation, Noyb, hat bei der österreichischen Datenschutzbehörde (DPA) eine Beschwerde gegen OpenAI eingereicht, da ihr Produkt ChatGPT viele Datenschutzgesetze der EU verletzt. Die Organisation sagte, dass ChatGPT falsche Informationen über Personen teilt, und die EU-Datenschutz-Grundverordnung (DSGVO) verlangt, dass die Informationen über Personen korrekt sein müssen und sie vollen Zugang zu den Informationen über sie erhalten müssen.
OpenAI steht vor DSGVO-Beschuldigungen
Noyb wurde vom berühmten Anwalt und Aktivist Max Schrems gegründet und behauptete, ChatGPT habe ein falsches Geburtsdatum einer berühmten öffentlichen Figur geteilt, und als um Erlaubnis gebeten wurde, auf Daten zuzugreifen und sie zu löschen, die ihn betreffen, wurde seine Anfrage von Open AI abgelehnt.
Noyb sagt, dass nach der DSGVO der EU, jede Information über eine beliebige Person genau sein muss und sie Zugang und Informationen über die Quelle haben müssen, aber laut ihr sagt OpenAI, dass sie nicht in der Lage ist, die Informationen in ihrem ChatGPT-Modell zu korrigieren. Das Unternehmen ist auch nicht in der Lage, mitzuteilen, woher die Informationen stammen, und weiß sogar nicht, welche Daten ChatGPT über Personen speichert.
Noyb behauptet, dass OpenAI das Problem kennt und scheint, als würde es nicht daran liegen, da ihr Argument in dieser Sache ist, dass
„Die faktische Genauigkeit in großen Sprachmodellen bleibt ein Bereich aktiver Forschung.“
Noyb bemerkte, dass falsche Informationen tolerierbar sein könnten, wenn ChatGPT sie ausspuckt, wenn Studenten sie für ihre Hausaufgaben verwenden, aber es sagte, dass es für einzelne Personen eindeutig inakzeptabel ist, da es eine Anforderung des EU-Rechts ist, dass personenbezogene Daten genau sein müssen.
Halluzinationen machen Chatbots nicht konform mit EU-Vorschriften
Noyb erwähnte, dass KI-Modelle anfällig für Halluzinationen sind und Informationen erzeugen, die tatsächlich falsch sind. Sie hinterfragten OpenAIs technisches Verfahren zur Generierung von Informationen, da es OpenAIs Argumentation bemerkte, dass
„Antworten auf Benutzeranforderungen durch Vorhersage der nächsten wahrscheinlichsten Wörter, die in Antwort auf jeden Prompt erscheinen könnten.“
Noyb argumentiert, dass dies bedeutet, dass das Unternehmen zwar umfangreiche Datensätze für das Training seines Modells zur Verfügung hat, aber dennoch nicht garantieren kann, dass die Nutzern bereitgestellten Antworten faktisch korrekt sind.
Noybs Datenschutzanwalt, Maartje de Gaaf, sagte:
„Das Erfinden falscher Informationen ist an sich bereits problematisch. Aber wenn es um falsche Informationen über Einzelpersonen geht, kann dies schwerwiegende Folgen haben.“
Quelle: Noyb.
Er fügte hinzu, dass jede Technologie den Gesetzen folgen muss und nicht damit spielen darf. Da ein Werkzeug, das keine korrekten Ergebnisse über Einzelpersonen liefern kann, nicht für diesen Zweck verwendet werden dürfe, seien Unternehmen technisch noch nicht in der Lage, Chatbots zu erstellen, die die EU-Gesetze in diesem Bereich einhalten.
Generative KI-Tools stehen unter strenger Aufsicht europäischer Datenschutzbehörden, da die italienische DPA im Jahr 2023 den Datenschutz vorübergehend einschränkte. Es ist noch unklar, was die Ergebnisse sein werden, aber laut Noyb tut OpenAI nicht einmal so, als würde es den EU-Gesetzen entsprechen.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss: Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf der Grundlage der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend, vor jeder Anlageentscheidung unabhängige Recherchen durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Aamir Sheikh
Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.
