OpenAI verschiebt die Freigabe des KI-Erkennungstools angesichts von Bedenken

OpenAI hat die Freigabe seines lang erwarteten Tools zur Erkennung von Texten, die von seinem ChatGPT-Modell generiert wurden, verschoben. Berichten zufolge wurde die Einführung aufgrund möglicher Probleme verzögert, die die Benutzererfahrung und das Ökosystem beeinträchtigen könnten.

Die Wall Street Journal berichtete, dass OpenAI das Tool seit einem Jahr auf die Freigabe vorbereitet, dies jedoch nicht getan hat, hauptsächlich aufgrund von Risiken und verschiedenen Problemen. Die Entscheidung, die Einführung des Tools zu verschieben, scheint auch mit der Eingabe der Benutzer zusammenzuhängen. In einer von OpenAI durchgeführten Umfrage stellten sie fest, dass fast ein Drittel ihrer treuen ChatGPT-Nutzer durch die Einführung von Anti-Betrugs-Technologie abgeschreckt werden könnten.

Wie das Anti-Betrugs-Tool funktioniert

Laut dem Center for Democracy and Technology glauben 59 % der Lehrer an Mittel- und Oberschulen, dass Schüler KI in ihren Zuweisungen verwendet haben, ein Anstieg im Vergleich zum Vorjahr.

Das Anti-Betrugs-Tool funktioniert, indem es einen Wasserzeichen in den von einer KI geschriebenen Text einbettet. Obwohl dieses Wasserzeichen mit bloßem Auge unsichtbar ist, kann die Erkennungstechnologie von OpenAI es erfassen. Das Tool liefert eine Punktzahl, die die Wahrscheinlichkeit darstellt, dass ein gegebener Text von ChatGPT geschrieben wurde. Diese Wasserzeichen-Technik soll nahezu perfekt sein, da interne Dokumente zeigen, dass sie eine Effektivität von 99,9 Prozent aufweist, wenn ChatGPT große Mengen an Inhalten generiert.

Allerdings wurden einige Bedenken hinsichtlich des Tools geäußert. Eine große Sorge ist, dass es für Nicht-Muttersprachler von Nachteil sein könnte. Einige Menschen befürchten, dass das Wasserzeichen nicht so effizient sein könnte, wie es sein sollte, oder dass andere Werke von Autoren mit schlechten Englischkenntnissen als Plagiat markiert werden könnten. Darüber hinaus haben Kritiker Bedenken geäußert, dass das Wasserzeichen durch Übersetzung oder durch Einfügen und Löschen von Emojis gelöscht oder manipuliert werden kann.

Ein weiteres Problem ist, wer das Erkennungstool nutzen darf. Der Zugang zu beschränken, könnte die Anwendbarkeit der Wasserzeichenmethode verringern; der freie Zugang könnte die Methode jedoch unwirksam machen. 

Andere Tech-Giganten entwickeln ähnliche Lösungen

Obwohl OpenAI das Anti-Betrugs-Tool für Text noch nicht implementiert hat, hat das Unternehmen bereits begonnen, Wasserzeichen für Audio- und Videoausgaben anzuwenden. Diese Multimedia-Formate wurden vom Unternehmen als Prioritäten betrachtet, da KI-generierte Deepfakes höhere Risiken darstellen als textbasierte Inhalte. 

Andere Technologieunternehmen entwickeln ebenfalls ähnliche Lösungen. Zum Beispiel arbeitet Google an einer eigenen Wasserzeichenlösung namens SynthID, die sich noch in der Beta-Phase befindet. OpenAI hat jedoch die Audio- und visuelle Wasserzeichen vorrangig behandelt, da die Auswirkungen derer schwerwiegender sind und während kritischer Zeiträume wie Wahljahren auftreten können. 

Diese Nachricht kommt, als Elon Musk zurück im Gericht ist, um OpenAI zu verklagen und das Unternehmen sowie seine Gründer, Sam Altman und Greg Brockman, zu beschuldigen, vom ursprünglichen Ziel abgewichen zu sein, KI zur Verbesserung der Menschheit zu schaffen.