Google stellt ein Open-Source-Wasserzeichen-Tool zur Verfügung, mit dem Nutzer KI-generierte Textedent

Google hat das Textwasserzeichen-Tool SynthID als Open Source veröffentlicht. Diese Technologie ermöglicht es Nutzern, auf einfache Weise zu erkennen, ob ein Text original oder von einer KI generiert wurde.

Laut Google kann der KI-generierte Textdetektor von der KI-Plattform Hugging Face und Googles aktualisiertem Responsible GenAI Toolkit heruntergeladen werden. Wasserzeichen haben mit dem Boom generativer KI in den letzten zwei Jahren an Bedeutung gewonnen, da LLMs manipuliert werden, um Fehlinformationen und Desinformationen sowie nicht einvernehmliche sexuelle Inhalte und andere schädliche Zwecke zu verbreiten.

Diese Entwicklung erfolgt vor dem Hintergrund, dass die Entwicklung solcher Instrumente dringend notwendig ist, da die Strafverfolgungsbehörde der Europäischen Union befürchtet, dass bis 2026 90 % der Online-Texte synthetisch sein könnten, was Propaganda, Betrug und Täuschung weit verbreiten würde.

Google-Forscher erklären ihr Wasserzeichen-Tool

In einem Beitrag auf der X-Plattformgab der Suchmaschinenriese bekannt, dass er sein SynthID Text-Wasserzeichen-Tool als Open Source veröffentlicht und dass es „Unternehmen und Entwicklern kostenlos zur Verfügung stehen wird, da es ihnen helfen soll, ihre KI-generierten Inhalte zudent“.

Pushmeet Kohli, Vizepräsidentdent für Forschung bei Google DeepMind und Mitautor einer Forschungsarbeit von Google DeepMind, sagte: „Das System beeinträchtigt nicht die Funktionen der KI-Modelle, sondern verbessert sie lediglich.

Bilder und Videos spielten eine zentrale Rolle in den Diskussionen umdent, und Wasserzeichen wurden als die notwendige Lösung zur Bekämpfung von Deepfakes auserkoren.

Die Coalition for Content Provenance and Authenticity (C2PA), eine Kooperation von Technologieunternehmen und großen Medienhäusern zur Entwicklung eines Systems zum Anhängen verschlüsselter Metadaten zur Kennzeichnung von KI-generierten Bild- und Videodateien, spielte ebenfalls eine zentrale Rolle in diesen Diskussionen.

Laut einer Forschungsarbeit von Google DeepMind greift SynthID Text während der Generierung ein, indem es einige vom Chatbot ausgegebene Wörter so verändert, dass sie für einen SynthID-Detektor verständlich, für Menschen aber nahezu unsichtbar sind.

„Modifikationen wie diese bringen eine statistische Signatur in den von der KI generierten Text ein, und während der Wasserzeichenerkennungsphase kann die Signatur gemessen werden, um mithilfe des wasserzeichenbehafteten LLM festzustellen, ob der Text von einem KI-Modell stammt“, schrieben die Forscher in dem Artikel.

Die Sprachlernalgorithmen (LLMs), die Chatbots antreiben, generieren Sätze Wort für Wort. Sie wählen das wahrscheinlich nächste Wort abhängig vom Kontext des vorhergehenden Wortes aus. Durch die zufällige Zuweisung von Punktwerten zu Kandidatenwörtern erzeugt der LLM Wörter mit einem höheren Punktwert. Texte, die vom Detektor analysiert wurden und einen höheren Punktwert aufweisen, werden mit einem Wasserzeichen versehen.

Heute stellen wir unser SynthID-Textwasserzeichen-Tool als Open Source über ein aktualisiertes Responsible Generative AI Toolkit zur Verfügung.

Es steht Entwicklern und Unternehmen kostenlos zur Verfügung und hilft ihnen, ihre KI-generierten Inhalte zudent. 🔍

Mehr erfahren → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) 23. Oktober 2024

Branchenexperten loben Google für den Schritt in die richtige Richtung

Obwohl das DeepMind-System beim Wasserzeichen-Erkennen von Texten besser abschnitt als andere Tools, räumten die Forscher in ihrer Veröffentlichung ein, dass das Tool noch Schwächen aufweist. Verändert man beispielsweise einen mit Gemini erstellten Text, lässt sich der Detektor täuschen.

„SynthID ist zwar kein Allheilmittel zurdentKI-generierter Inhalte, aber ein wichtiger Baustein für die Entwicklung zuverlässigerer KI-dent.“

– Kohli.

Wenn Benutzer Texte erheblich verändern oder einen anderen Chatbot verwenden, um Texte zusammenzufassen, wird der Detektor bei der Wasserzeichenerkennung des KI-generierten Textes in die Irre geführt.

Google versichert, dass SynthID Text weder die Qualität, Genauigkeit noch die Geschwindigkeit der Textgenerierung beeinträchtigt, wie Tests mit dem in den Gemini-Modellenhaben. Das Unternehmen fügte hinzu, dass es auch mit beschnittenem, verändertem oder paraphrasiertem Text funktioniert.

„Die Erkennung stellt ein besonderes Problem dar, wenn man die Implementierung in realen Situationen mit einbezieht, da es Probleme bei der Überprüfung von Texten in freier Wildbahn gibt, wo man wissen muss, welches Wasserzeichenmodell angewendet wurde, um zu wissen, wo das Signal zu finden ist“, erklärte Bruce MacCormack, ein Mitglied des C2PA-Lenkungsausschusses.

Neben Google arbeitet auch OpenAI seit Jahren an KI-gestützter Textwasserzeichentechnologie, hat deren Veröffentlichung aufgrund technischer und kommerzieller Machbarkeitsprobleme verzögert.

Branchenexperten haben Googles Initiative jedoch im Allgemeinen als Schritt in die richtige Richtung gelobt.

„Es birgt die Hoffnung, die Verwendung von dauerhaftendentvon C2PA für Dokumente und Rohtexte zu verbessern“, sagte Andrew Jenks, Direktor für Medienherkunft bei Microsoft und Vorstandsvorsitzender von C2PA.

MacCormack fügte außerdem hinzu, dass die Google-Forscher zwar noch viel zu tun hätten, um dies in die Praxis umzusetzen, es aber dennoch eine großartige Initiative und „der erste Schritt auf dem vor uns liegenden Marathon“ sei