AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

Google open-sources Wasserzeichen-Tool, damit Nutzer KI-generierten Text identifizieren können

VonEnacy MapakameEnacy Mapakame 3 Min. Lesezeit
Google open-sources Wasserzeichen-Tool, damit Nutzer KI-generierten Text identifizieren können
  • „Der von Google entwickelte Text-Detektor für KI-generierte Inhalte, SynthID, wird die Qualität und Genauigkeit der Texte nicht beeinträchtigen.”
  • Dies wird als richtiger Schritt zur Bekämpfung von Deepfakes angesehen.
  • Andere Tech-Firmen wie OpenAI haben bereits an einem Text-Wasserzeichen-Tool gearbeitet, dessen Veröffentlichung jedoch verzögert wurde.

Google hat das SynthID-Text-Wasserzeichen-Tool open-sourced, eine Technologie, die es Nutzern ermöglicht, leicht zu erkennen, ob Text original oder KI-generiert ist.

Laut Google kann der KI-generierte Text-Detektor von der KI-Plattform Hugging Face und Googles aktualisiertem Responsible GenAI Toolkit heruntergeladen werden. Wasserzeichen sind mit dem Boom der generativen KI in den letzten zwei Jahren bedeutend geworden, da LLMs manipuliert werden, um Fehlinformationen und Desinformationen sowie nicht einvernehmliche sexuelle Inhalte und für bösartige Zwecke zu verbreiten.

Die Entwicklung kommt, da es Dringlichkeit gibt, solche Tools zu entwickeln, da die Behörde für Strafverfolgung der Europäischen Union besorgt ist, dass 90 % des Online-Textes bis 2026 synthetisch sein könnten, was Propaganda, Betrug und Täuschung weit verbreitet macht.

Google-Forscher erklären ihr Wasserzeichen-Tool

In einem Beitrag auf der X-Plattform gab der Suchmaschinenriese bekannt, dass es sein SynthID-Text-Wasserzeichen-Tool open-sourcen wird, da es „Unternehmen und Entwicklern kostenlos zur Verfügung stehen wird, da es ihnen helfen wird, ihre KI-generierten Inhalte zu identifizieren.“

Pushmeet Kohli, Vizepräsident der Forschung bei Google DeepMind und Co-Autor eines Forschungsbeitrags von Google DeepMind, sagte: „Das System beeinträchtigt nicht die Funktionen der KI-Modelle, sondern macht sie einfach besser.“

Bilder und Videos waren zentral in Diskussionen über Inhaltsnachweise, und Wasserzeichen wurden als die benötigte Lösung zur Bekämpfung von Deepfakes identifiziert.

Die Coalition for Content Provenance and Authenticity (C2PA), eine Zusammenarbeit von Technologieunternehmen und großen Medienhäusern, um ein System zur Anbringung verschlüsselter Metadaten zu entwickeln, um KI-generierte Bild- und Videodateien zu kennzeichnen, war ebenfalls zentral für diese Diskussionen.

Laut dem Forschungsbericht von Google DeepMind greift SynthID Text während der Generierung ein, indem es einige Wörter, die von einem Chatbot ausgegeben werden, so verändert, dass sie für einen SynthID-Detektor klar sind, aber für Menschen fast unsichtbar.

„Modifikationen wie diese bringen eine statistische Signatur in den KI-generierten Text, und während der Wasserzeichenerkennungsphase kann die Signatur gemessen werden, um zu sehen, ob der Text von einem KI-Modell des mit Wasserzeichen versehenen LLM stammt“, schrieben die Forscher in dem Bericht.

Indem Sätze Wort für Wort generiert werden, so funktionieren die LLMs, die Chatbots antreiben, da sie das wahrscheinlichste nächste Wort basierend auf dem Kontext des Vorhergehenden auswählen. Durch die zufällige Zuweisung von Punktzahlen zu Kandidatenwörtern produziert das LLM Wörter mit einer höheren Punktzahl. Wasserzeichen werden auf einen Text angewendet, der vom Detektor analysiert wurde, und nachdem festgestellt wurde, dass er eine höhere Punktzahl hat.

Branchenexperten loben Google für den Schritt in die richtige Richtung

Obwohl das DeepMind-System bei der Textwasserzeichenung besser abschneidet als andere Tools, räumten die Forscher in ihrer Studie ein, dass das Tool noch Mängel aufweist. Wenn Sie beispielsweise einen von Gemini generierten Text verändern, lässt sich der Detektor täuschen.

„Zwar ist SynthID kein Allheilmittel zur Identifizierung KI-generierter Inhalte, doch es ist ein wichtiger Baustein für die Entwicklung zuverlässigerer KI-Identifizierungstools.“

– Kohli.

Wenn Nutzer Texte erheblich verändern oder einen anderen Chatbot zur Zusammenfassung von Texten nutzen, wird der Detektor bei der Wasserzeichenung von KI-generierten Texten in die Irre geführt.

Google behauptet, dass SynthID Text die Qualität, Genauigkeit oder Geschwindigkeit der Textgenerierung nicht beeinträchtigt, wie vom System getestet, das in seinen Gemini-Modellen integriert ist. Das Unternehmen fügte auch hinzu, dass es auch bei Text funktioniert, der beschnitten, modifiziert oder paraphrasiert wurde.

„Die Erkennung ist ein besonderes Problem, wenn man die Implementierung in realen Situationen berücksichtigt, da es Probleme mit der Überprüfung von Texten in der freien Wildbahn gibt, bei denen man wissen muss, welches Wasserzeichenmodell angewendet wurde, um das Signal zu finden und zu lokalisieren“, erklärte Bruce MacCormack, Mitglied des C2PA-Steuerungsausschusses.

Neben Google arbeitet auch OpenAI seit Jahren an KI-Text-Wasserzeichen-Technologie, hat aber die Veröffentlichung verzögert aufgrund technischer und kommerzieller Machbarkeit.

Doch Branchenexperten haben Google’s Initiative im Allgemeinen als einen Schritt in die richtige Richtung gelobt.

„Es verspricht, die Nutzung dauerhafter Inhaltsnachweise von C2PA für Dokumente und reinen Text zu verbessern“, sagte Andrew Jenks, Direktor für Medienherkunft bei Microsoft und Vorsitzender des C2PA.

MacCormack fügte hinzu, dass Google-Forscher noch viel zu tun haben, um dies zu einem praktischen Fall zu machen, es bleibt jedoch eine großartige Initiative und „der erste Schritt im bevorstehenden Marathon.“

Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.

Diesen Artikel teilen

Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.

Enacy Mapakame

Enacy Mapakame

Enacy Mapakame ist Journalistin mit über 10 Jahren Erfahrung in den Bereichen Wirtschafts- und Finanznachrichten. Sie berichtet über Kapitalmärkte und aufstrebende Technologien – das Metaverse, KI und Kryptowährungen. Enacy besitzt einen Bachelor of Science (BSc) im Fachbereich Medien- und Gesellschaftsstudien mit Auszeichnung.

MEHR … NACHRICHTEN