Meta führt bis Mai KI-gestützte Inhaltskennzeichnung als Reaktion auf Bedenken hinsichtlich Deepfakes ein

Um die Bedenken von Nutzern und Regierungen hinsichtlich Deepfakes zu zerstreuen, kündigte der Facebook- und Instagram-Konzern Meta am Freitag an, ab Mai KI-generierte Inhalte zu kennzeichnen. Der Social-Media-Riese erklärte weiter, dass er, um das Recht auf freie Meinungsäußerung zu respektieren, bearbeitete Fotos und Töne, die nicht gegen seine Richtlinien verstoßen, nicht mehr löschen, sondern sich stattdessen auf Terminologie und Kontext stützen werde. Beiträge auf Facebook, Threads und Instagram unterliegen dieser Richtlinie.

Meta hat angekündigt, künftig mehr Audio-, Video- und Bildinhalte als KI-generiert zu kennzeichnen und räumt ein, dass die bisherige Richtlinie „zu eng gefasst“ sei. Obwohl das Unternehmen seine Erkennungsmethode nicht näher erläuterte, werden die Kennzeichnungen entweder dann angebracht, wenn Nutzer die Verwendung von KI-Tools zugeben oder wenn Meta die Inhalte anhand seiner branchenüblichen KI-Bildindikatoren erkennt.

Meta reagiert auf Kritik des Aufsichtsrats

Die Änderungen wurden durch Kritik des Aufsichtsrats von Meta veranlasst, einemdent Gremium zur Bewertung des Internetgiganten, das Inhalte verändert. Angesichts der enormen Fortschritte im Bereich der KI und der Leichtigkeit, mit der Medien zu äußerst überzeugenden Deepfakes manipuliert werden können, forderte der Aufsichtsrat Meta im Februar auf, die Änderungen zu überarbeiten

Die Behörde forderte eine rasche Überprüfung ihrer Strategie zur Medienmanipulation. Mitten in einem wichtigen Wahljahr, sowohl lokal als auch global, warnte der Vorstand vor dem zunehmenden Missbrauch KI-gestützter Anwendungen zur Verbreitung von Desinformation auf verschiedenen Plattformen.

Monika Bickert,dent für Inhaltspolitik, sagte:

„Wir stimmen der Argumentation des Aufsichtsrats zu, dass unser derzeitiger Ansatz zu eng gefasst ist, da er nur Videos umfasst, die mithilfe von KI erstellt oder verändert wurden, um den Eindruck zu erwecken, eine Person würde etwas sagen, was sie nicht gesagt hat.“

Quelle: Meta

Als Reaktion auf die Empfehlungen des Aufsichtsgremiums hat Meta beschlossen, seinen Umgang mit manipulierten Medien zu ändern. Anstatt Inhalte vollständig zu entfernen, setzt das Unternehmen nun auf Kennzeichnung und Kontextualisierung, um Transparenz hinsichtlich Herkunft und Authentizität der Inhalte zu gewährleisten. Meta begründet dies mit seinem Bekenntnis zur Meinungsfreiheit und dem gleichzeitigen Schutz vor den Gefahren irreführender oder täuschender Medien.

Implementierung der KI-Inhaltskennzeichnung

Das Kennzeichnungsprojekt von Meta wird in zwei Phasen umgesetzt, die erste startet im Mai 2024. KI-generierte Inhalte– darunter verschiedene Medienformate wie Audio, Video und Bilder – erkannt und entsprechend kategorisiert. Um Nutzer vor möglicher Manipulation zu warnen, werden Inhalte mit einem hohen Risiko der Irreführung der Öffentlichkeit deutlicher gekennzeichnet.

Die Entfernung manipulierter Medien allein aufgrund der bisherigen Richtlinie wird im Rahmen der zweiten Einführungsphase von Meta, die im Juli startet, eingestellt. Sofern KI-manipulierte Inhalte nicht gegen andere Community-Standards verstoßen, beispielsweise gegen solche, die Hassrede verbieten oder Wahlen beeinflussen, bleiben sie gemäß der neuen Regelung auf der Plattform zugänglich. Meta ist bestrebt, ein Gleichgewicht zwischen der Wahrung der Integrität seiner Plattformen und der Gewährleistung von Meinungsfreiheit zu finden, und diese Methode unterstreicht dieses Engagement.

Bickert fügte hinzu: 

„Die Kennzeichnungen werden neben den vom Aufsichtsgremium empfohlenen Kennzeichnungen für manipulierte Inhalte auch ein breiteres Spektrum an Inhalten abdecken.“ 

Quelle: Meta Inc.

Unabhängig davon, ob sie mit KI-Tools erstellt wurden oder nicht, werden Inhalte, die gegen andere Richtlinien verstoßen – wie etwa solche, die sich auf Mobbing, Einmischung in Wahlen und Belästigung beziehen –, weiterhin entfernt.

Die großen Digitalkonzerne und KI-Unternehmen einigten sich im Februar auf ein Vorgehen gegen manipulierte Inhalte, die Wähler irreführen sollen. Dies steht im Zusammenhang mit den neuen Kennzeichnungsverfahren. Meta, Google und OpenAI einigten sich bereits auf einen einheitlichen Wasserzeichenstandard für Fotos, die von KI-Anwendungen generiert werden.