Tech-Riesen schmieden Allianz gegen KI-generierte Inhalte

Als Reaktion auf die wachsenden Bedenken über die Ausbreitung von KI-generierten Inhalten haben große Technologieunternehmen Initiativen angekündigt, die darauf abzielen, solche Inhalte zu erkennen und zu kennzeichnen. 

Diese Bemühungen erfolgen im Anschluss an Vorfälle wie den Taylor-Swift-Deepfake-Porno-Skandal und die Verbreitung politischer Deepfakes.

Big Tech Bands arbeitet zusammen, um KI-generierte Inhalte zu kennzeichnen und zu erkennen.

Meta, ehemals Facebook, hat Pläne bekanntgegeben, KI-generierte Bilder auf seinen Plattformen – darunter Facebook, Instagram und Threads – zu kennzeichnen. Diese Kennzeichnungen, die als sichtbare Markierungen, unsichtbare Wasserzeichen und in Bilddateien eingebettete Metadaten realisiert werden sollen, zielen darauf ab, Transparenz und Verantwortung im Hinblick auf die Herkunft von Inhalten zu erhöhen. 

Google hingegen hat sich dem Lenkungsausschuss der C2PA (Content Authenticity Initiative) angeschlossen und ein quelloffenes Internetprotokoll unterstützt, das sogenannte „Nährwertkennzeichnungen“ für Inhalte bereitstellen soll. Dieser Schritt markiert eine gemeinsame Anstrengung großer Tech-Unternehmen, branchenweite Standards zur Erkennung KI-generierter Inhalte zu etablieren.

OpenAI implements content provenance measures

Auch OpenAI hat Maßnahmen zur Bewältigung des Problems eingeführt. Es wird Wasserzeichen in die Metadaten von Bildern einfügen, die mit seinen KI-Modellen ChatGPT und DALL-E 3 erstellt wurden, um durch eine sichtbare Kennzeichnung das Mitwirken der KI bei der Inhaltserstellung deutlich zu machen. 

Obwohl diese Methoden einen Fortschritt darstellen, sind sie nicht unfehlbar; es bestehen weiterhin Herausforderungen bei der Kennzeichnung und Erkennung von KI-generierten Videos, Audioaufnahmen und Texten.

Herausforderungen und zukünftige Aussichten

Trotz Fortschritten bei der Inhaltskennzeichnung und Wasserzeichenbildung bestehen weiterhin technische Grenzen. Wasserzeichen in Metadaten können durch das Abspeichern von Screenshots umgangen werden, während visuelle Kennzeichnungen anfällig für Zuschneiden oder Bearbeitung sind. Unsichtbare Wasserzeichen wie Googles SynthID bieten zwar eine höhere Robustheit, sind jedoch nicht ohne Herausforderungen.

Need for regulatory frameworks

Neben freiwilligen Maßnahmen gewinnen regulatorische Rahmenwerke an Bedeutung. Initiativen wie die EU-KI-Verordnung (AI Act) und der Digital Services Act verpflichten zur Offenlegung KI-generierter Inhalte sowie zur beschleunigten Entfernung schädlicher Inhalte. Auch in den USA erwägen Gesetzgeber verbindliche Vorschriften zu Deepfakes; die Federal Communications Commission hat kürzlich den Einsatz von KI bei automatisierten Anrufen untersagt.

Zwar stellen freiwillige Richtlinien einen Schritt in die richtige Richtung dar, doch bleiben Bedenken hinsichtlich der Verantwortung der Industrie bestehen. Die Geschichte der Selbstregulierung im Technologiesektor wirft Zweifel an der Wirksamkeit freiwilliger Maßnahmen auf. Dennoch signalisieren die jüngsten Ankündigungen Fortschritte im Vergleich zum vorherigen Mangel an Handeln.