Als Reaktion auf die zunehmenden Bedenken hinsichtlich der Verbreitung von KI-generierten Inhalten haben große Technologieunternehmen Initiativen angekündigt, die darauf abzielen, solche Inhalte zu erkennen und zu kennzeichnen.
Diese Bemühungen erfolgen im Zuge von Vorfällen dent dem Deepfake-Pornoskandal um Taylor Swift und der Verbreitung politischer Deepfakes.
Große Technologiekonzerne arbeiten zusammen, um KI-generierte Inhalte zu kennzeichnen und zu erkennen.
Meta, ehemals Facebook, hat angekündigt, KI-generierte Bilder auf seinen Plattformen, darunter Facebook, Instagram und Threads, zu kennzeichnen. Diese Kennzeichnungen – sichtbare Markierungen, unsichtbare Wasserzeichen und in Bilddateien eingebettete Metadaten – sollen die Transparenz und Nachvollziehbarkeit der Inhaltsherkunft erhöhen.
Google hingegen ist dem Lenkungsausschuss der C2PA (Content Authenticity Initiative) beigetreten und unterstützt damit ein Open-Source-Internetprotokoll, das Inhalte mit „Nährwertkennzeichnungen“ versehen soll. Dieser Schritt signalisiert die Zusammenarbeit von Technologiekonzernen bei der Etablierung branchenweiter Standards zur Erkennung KI-generierter Inhalte.
OpenAI implementiert Maßnahmen zur Inhaltsherkunftsanalyse
OpenAI hat ebenfalls Maßnahmen ergriffen, um dieses Problem anzugehen. So werden den Metadaten von Bildern, die mit den KI-Modellen ChatGPT und DALL-E 3 generiert wurden, Wasserzeichen hinzugefügt, um die Beteiligung von KI an der Inhaltserstellung sichtbar zu kennzeichnen.
Diese Methoden stellen zwar einen Fortschritt dar, sind aber nicht narrensicher. Es bestehen weiterhin Herausforderungen bei der Kennzeichnung und Erkennung von KI-generierten Videos, Audiodateien und Texten.
Herausforderungen und Zukunftsaussichten
Trotz Fortschritten bei der Inhaltskennzeichnung und dem Wasserzeichenverfahren bestehen weiterhin technische Einschränkungen. Wasserzeichen in Metadaten lassen sich durch Screenshots umgehen, während visuelle Kennzeichnungen anfällig für Beschneidung oder Bearbeitung sind. Unsichtbare Wasserzeichen wie Googles SynthID bieten zwar eine höhere Widerstandsfähigkeit, sind aber nicht ohne Herausforderungen.
Notwendigkeit regulatorischer Rahmenbedingungen
Neben freiwilligen Maßnahmen gewinnen regulatorische Rahmenbedingungen zunehmend trac. Initiativen wie der EU-AI-Act und der Digital Services Act schreiben die Offenlegung KI-generierter Inhalte und die beschleunigte Entfernung schädlicher Inhalte vor. Auch US-Gesetzgeber erwägen verbindliche Regelungen zu Deepfakes; die Federal Communications Commission (FCC) hat kürzlich den Einsatz von KI in automatisierten Werbeanrufen verboten.
Freiwillige Leitlinien sind zwar ein Schritt in die richtige Richtung, doch bestehen weiterhin Bedenken hinsichtlich der Verantwortlichkeit der Branche. Die bisherige Selbstregulierung im Technologiesektor nährt Zweifel an der Wirksamkeit freiwilliger Maßnahmen. Die jüngsten Ankündigungen deuten jedoch im Vergleich zum vorherigen Nichtstun auf Fortschritte hin.
