OpenAI wird ChatGPT-Texte nur in der EU mit Wasserzeichen versehen

OpenAI hat am Montag bekannt gegeben, dass es Texte, die von seinen KI-Systemen ChatGPT und Codex generiert wurden, für Nutzer in der EU kennzeichnet, aufgrund der Transparenzanforderungen des am 2. August in Kraft getretenen EU-Gesetzes zur Künstlichen Intelligenz.

Diese Vorschriften verpflichten KI-Unternehmen dazu, maschinengenerierte Inhalte in einem für andere Systeme lesbaren Format zu kennzeichnen. Verstöße gegen Artikel 50 können mit Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden. Die Einführung erfolgt innerhalb der nächsten Wochen für alle in Frage kommenden Konten auf jedem Tarifplan, jedoch ausschließlich innerhalb der EU.

Entwickler, die über die API von überall aus darauf zugreifen, können die Funktion ab heute für bestimmte Modelle aktivieren, obwohl sie laut TechCrunch erst wirksam wird, wenn ein Kunde sie aktiviert.

Wir erweitern unseren Ansatz zur Inhaltsprovenienz, um Textantworten im Einklang mit den regulatorischen Anforderungen der EU einzubeziehen, wobei wir die erheblichen Einschränkungen aktueller Text-Wasserzeichen-Technologien anerkennen.

Unsere Tools helfen bereits dabei zu überprüfen, ob ein Bild- oder Audiodatei mit unserem…

— OpenAI (@OpenAI) Oktober 5, 2026

textGrain versteckt das Wasserzeichen in den Wortwahlentscheidungen des Modells

Das textGrain-System von OpenAI funktioniert, indem es die vom ChatGPT gewählten Wörter leicht steuert, wenn mehrere Alternativen gleichermaßen passen würden. Über einen ausreichend langen Text hinweg summieren sich diese kleinen Entscheidungen zu einem statistischen Muster, das für das menschliche Auge unsichtbar ist, aber von spezieller Software erkannt werden kann.

Da das Wasserzeichen fest in den Wortlaut integriert ist und nicht in den Datei-Metadaten gespeichert wird, bleibt es auch nach dem Kopieren und Einfügen des Textes an anderer Stelle erkennbar.

OpenAI hat das System gemeinsam mit Forschern der University of Pennsylvania und der Yale University entwickelt. Ihr technischer Bericht erläutert, dass textGrain einen geheimen Schlüssel nutzt, um mögliche nächste Wörter zu bewerten und bestimmte Auswahlmöglichkeiten subtil zu begünstigen. Wenn genügend dieser Auswahlmöglichkeiten in einem Textabschnitt vorkommen, kann Software, die denselben Schlüssel besitzt, das Muster erkennen und feststellen, dass der Text wahrscheinlich von einem OpenAI-Modell generiert oder verarbeitet wurde.

OpenAI gibt an, dass das Wasserzeichen keine Informationen enthält, die den Nutzer identifizieren, der den Text generiert hat. Das Unternehmen betont zudem, dass seine Tests keinen signifikanten Rückgang der Leistung von GPT-6 Astra gezeigt haben, wenn textGrain aktiviert war.

Leichte Bearbeitungen können die Erkennung des Wasserzeichens erheblich schwächen

OpenAI hat auch die Grenzen des Systems veröffentlicht. Bei seinen Tests führte bereits der Austausch von nur 10 % der Wörter durch Synonyme dazu, dass die Erkennungsrate von etwa 92 % auf 66 % sank. Das Wasserzeichen ist außerdem bei kurzen Passagen, mathematischen Antworten und übersetztem Text schwieriger zu erkennen.

Aufgrund dieser Einschränkungen wird OpenAI die Nutzung seiner Erkennungstools vorerst auf autorisierte Forscher und spezialisierte Organisationen beschränken. Zudem weist das Unternehmen darauf hin, dass das Nicht-Erkennen eines Wasserzeichens nicht beweist, dass der Text menschlich geschrieben wurde. Der Text könnte schlicht zu kurz sein, stark bearbeitet worden sein oder sogar von einem Modell eines anderen Unternehmens stammen.

Ein Wasserzeichen kann darauf hinweisen, dass ein OpenAI-System einen Teil eines Textes generiert oder verarbeitet hat, sagt jedoch nichts darüber aus, wie viel menschliches Urteilsvermögen, Bearbeitung oder Kreativität dabei eingeflossen sind.

– OpenAI

Anthropic setzt auf globales Watermarking, während Openai zunächst in Europa beginnt

Im August begann Anthropic damit, die Ausgaben von Claude weltweit mit einem Wasserzeichen zu versehen. Anfangs wirkte dies als umfassenderer Ansatz im Vergleich zu OpenAI, das es zunächst nur in Europa einsetzte, doch der Grund dafür war technischer Natur: Anthropic verfügte noch über kein System zur regionalen Einschränkung des Watermarkings.

Beide Unternehmen hatten den EU-Kodex für Transparenz bei KI-generierten Inhalten bereits im Juli unterzeichnet, zusammen mit rund 190 weiteren Organisationen, darunter Google, Meta, Microsoft und Mistral. Folglich stehen ihre Bemühungen zum Watermarking im Einklang mit denselben EU-Transparenzvorschriften, die seit dem 2. August in Kraft sind.

Der Rollout von Anthropic stieß dennoch bei einigen Nutzern auf Kritik, die argumentierten, dass sie die Ideen, Anweisungen und das Urteilsvermögen beisteuerten, während Claude hauptsächlich beim Verfassen half.

Laut dem Wall Street Journal hatte OpenAI bereits vor Jahren ein Wasserzeichensystem für Texte entwickelt, entschied sich jedoch dagegen, es öffentlich zu machen, aus Angst, dass Nutzer zu anderen KI-Systemen wechseln könnten, die ihre Ausgaben nicht mit Wasserzeichen versehen.