Meta kündigt erweiterte Richtlinie zur Kennzeichnung KI-generierter Bilder an

Meta, früher bekannt als Facebook, hat eine erweiterte Richtlinie zur Bewältigung der mit der Verbreitung von KI-generierten Inhalten auf seinen Plattformen, einschließlich Facebook, Instagram und Threads, vorgestellt.

Als Reaktion auf die zunehmende Nutzung von generativer künstlicher Intelligenz wird das Unternehmen nun Warnhinweise auf KI-generierten Bildern anzeigen, um Nutzer über deren künstlichen Ursprung zu informieren. Während dieser Schritt als positiver Fortschritt angesehen wird, bleiben Bedenken hinsichtlich der Wirksamkeit im Kampf gegen böswillige Akteure und der Grenzen der Technologie bestehen.

Warnhinweise auf KI-generierten Bildern

Die jüngste Richtlinie von Meta beinhaltet das Taggen von KI-generierten Bildern, ob mit den eigenen generativen KI-Tools von Meta oder denen anderer Unternehmen erstellt, mit Labels, die ihre künstliche Natur anzeigen. Dieser Schritt soll das Risiko der Verbreitung von Fehlinformationen und Desinformation durch KI-generierte Bilder, die als echte Fotos ausgegeben werden, reduzieren.

 Meta hat Bilder, die von seiner KI produziert wurden, bisher als „Imagined with AI“ (Mit KI vorgestellt) gekennzeichnet, hauptsächlich durch Identifizierung des digitalen Wasserzeichens, das seine Algorithmen in die Ausgabe eingebettet haben.

Herausforderungen und Einschränkungen

Trotz Nintendos Engagement, diese Warnhinweise umzusetzen, bleiben erhebliche Herausforderungen bestehen. Eine bemerkenswerte Herausforderung ist, dass viele KI-Bildgenerierungstools ihre Ausgabe nicht mit Wasserzeichen versehen, was es böswilligen Akteuren leicht macht, KI-generierte Inhalte zu manipulieren und ohne Offenlegung zu verbreiten. 

Darüber hinaus ist die Technologie zur zuverlässigen Erkennung und Kennzeichnung KI-generierter Bilder noch in der Entwicklung, und es gibt keinen allgemein eingesetzten Standard.

Die Coalition for Content Provenance and Authenticity (C2PA), eine von Adobe gegründete Initiative, hat versucht, die Arbeit der Unternehmen zur Inhaltsprovenienz abzugleichen. Die bisher entwickelte Technologie ist jedoch nicht unfehlbar. 

Forscher haben die Leichtigkeit demonstriert, mit der Wasserzeichen gebrochen oder zu nicht-KI-generierten Bildern hinzugefügt werden können, was ihre Wirksamkeit untergräbt.

Hany Farid, Professor an der UC Berkeley School of Information und Berater der C2PA-Initiative, warnt davor, dass böswillige Akteure KI-Tools nutzen könnten, die ihre Ausgaben nicht mit Wasserzeichen versehen, um Nutzer weiter zu täuschen. 

Er schlägt vor, dass eine Kombination von Identifikationsmethoden, wie Wasserzeichen und hash-basierte Technologie, notwendig sein könnte, um KI-generierte Inhalte robust zu identifizieren. Wasserzeichen sind für KI-generierte Medien jenseits von Bildern, wie Audio und Video, weniger entwickelt.

Ausweitung von Richtlinien und Aufsicht

Zwar stellen die neuen Richtlinien von Meta einen Schritt vorwärts im Kampf gegen gefälschte Inhalte dar, doch sie beschränken sich nicht auf KI-generiertes Material. Der Aufsichtsrat von Meta, der aus unabhängigen Experten besteht, hat kürzlich die Entscheidung von Meta bestätigt, ein Video von Präsident Joe Biden online zu lassen, das so bearbeitet wurde, dass es einen irreführenden Eindruck erweckt. 

Diese Entscheidung unterstreicht die Notwendigkeit, dass Meta seine Regeln für „manipulierte Medien“ überarbeitet und ausweitet, um mehr als nur KI-generierte Inhalte abzudecken.

Der Sprecher von Meta, Kevin McAlister, erkennt die Notwendigkeit eines breiteren Ansatzes an und erklärt: „Während Unternehmen beginnen, Signale in ihre Bildgeneratoren zu integrieren, haben sie damit noch nicht begonnen, sie in KI-Tools einzubinden, die Audio und Video im gleichen Umfang generieren.“ 

Daher arbeitet Meta an der Einführung einer Funktion, mit der Nutzer offenlegen können, wenn sie KI-generierte Videos oder Audio teilen, damit entsprechende Kennzeichnungen angebracht werden können.