Der Aufsichtsrat von Meta fordert strengere Inhaltsrichtlinien nach Entfernung des Deepfake-Videos eines britischen Politikers
- Der Aufsichtsrat von Meta ordnete an, dass das Unternehmen ein KI-generiertes Video entfernen müsse, das fälschlicherweise einen schottischen Labour-Ratsherrn darstellte, der sexuelle Gewalt durch Flüchtlinge befürwortete.
- Der Vorstand bezeichnete Metas Deepfake-Richtlinien als grundlegend unzureichend.
- Meta hat vom Vorstand neun Empfehlungen erhalten und 60 Tage Zeit, darauf zu reagieren.
Der Aufsichtsrat von Meta hat entschieden, dass das Unternehmen ein KI-generiertes Video einer schottischen Labour-Ratsfrau entfernen muss, in dem fälschlicherweise der Eindruck erweckt wird, sie würde sexuelle Gewalt durch Flüchtlinge befürworten.
Das Unternehmen hatte zunächst beschlossen, die Seite online zu lassen, und abgesehen von der Aufhebung dieser Entscheidung hat der Aufsichtsrat auch davor gewarnt, dass Metas Umgang mit Deepfakes die Nutzer dem Risiko der Täuschung aussetzt.
Welches gefälschte Video muss Meta entfernen?
Im November 2025 tauchte auf Facebook ein Video auf, in dem das Abbild eines lokalen Labour-Politikers aus Schottland verwendet wurde. In dem Video sagte der Politiker: „Flüchtlinge sind hier willkommen, selbst wenn sie unsere Frauen vergewaltigen, denn Weiße tun das auch.“
Der Aufsichtsrat von Meta beschrieb die Darstellung als realistisch, aber künstlich und merkte an, dass der Ton nicht mit ihren Gesichtsbewegungen übereinstimmte. Das Video wurde in einem Album gefunden, das auch ein Foto mehrerer namentlich genannter Frauen, darunter der Stadträtin, bei einer Demonstration gegen Rechtsextremismus enthielt.
Zwei Personen, darunter die Stadträtin selbst, meldeten das Video gemäß den Anti-Mobbing- und Belästigungsregeln von Meta, aber die Systeme von Meta leiteten es nie an einen menschlichen Prüfer weiter, und es blieb trotz zweier Einsprüche online.
Ein dritter Nutzer wandte sich daraufhin an den Vorstand, und selbst nachdem dieser das Video gemeldet hatte, beharrte Meta darauf, dass es keine Regeln verletze und keine Kennzeichnung als KI rechtfertige. Der Stadtrat erklärte dem Vorstand, das Video sei „ziemlichmatic“
Die Mehrheit des Gremiums befand, dass der Clip gegen Metas Richtlinie zu Hassrede verstieß, da er Geflüchtete pauschal schwerer Kriminalität und sexuell übergriffigen Verhaltens bezichtigte. Metas Behauptung, der Clip habe sich nur gegen einige Geflüchtete gerichtet, wurde zurückgewiesen. Das Gremium stufte den Clip nicht als entfernbare Falschinformation ein, sondern erklärte, er hätte mit dem Hinweis „Hohes Risiko für KI“ versehen werden müssen.
Der Vorstand stimmte Meta in einem Punkt zu, nämlich dass die Regeln gegen Mobbing und Belästigung keine Absetzung vorschreiben, da ein gewählter Beamter eine Person des öffentlichen Lebens ist, die weniger Schutz genießt als eine Privatperson.
Welche Empfehlungen hat der Aufsichtsrat für Meta?
Der Vorstand schaltete sich auch in einem zweiten Fall ein, in dem es um ein KI-manipuliertes Interview mit einer Frau ging, die Aufklärungsarbeit zum Thema Menstruationsgesundheit leistete. Nach dem Eingreifen des Vorstands entfernte Meta das Video wegen Mobbings.
Die beiden Urteile veranlassten den Vorstand, die Sicherheitsvorkehrungen von Meta als „durchweg und grundlegend unzureichend“ zu bezeichnen
Der Vorstand empfahl Meta, die Schwelle für „Hochrisiko“-Labels zu senken, damit diese nicht nur für Wahlen oder Krisen reserviert bleiben, und einige Labels durch Click-Through-Interstitials zu ersetzen. Er schlug außerdem vor, risikoreiche KI-Inhalte zu demonetarisieren, herabzustufen oder aus den Empfehlungen zu entfernen, wobei wiederholte Verstöße mit steigenden Strafen geahndet werden sollten.
Die Behörde fordert Meta außerdem auf, mutmaßlich KI-generierte Inhalte nach Meldung vorrangig einer menschlichen Überprüfung zu unterziehen, jährlich Daten zur Häufigkeit der KI-Kennzeichnung – auch bei Beiträgen über Politiker – zu veröffentlichen und die Wahl- und Volkszählungsregeln so zu formulieren, dass sie weltweit und nicht nur in den USA gelten. Meta hat 60 Tage Zeit, auf die Forderung der Behörde zu reagieren.
Weltweit verschärfen Regierungen und Plattformen ihre Regeln für synthetische Medien. So erließ beispielsweise der Oberste Volksgerichtshof Chinas am 7. September Haftungsregeln , die besagen, dass die Erstellung oder Verbreitung einer KI-Replik des Gesichts oder der Stimme einer Person ohne deren Einwilligung eine Urheberrechtsverletzung darstellt. Cryptopolitan berichtete zudem, dass Peking im Rahmen der ersten Phase seiner „Qinglang“-Bereinigung Anfang des Jahres separat mehr als 14.000 KI-Produkte entfernt hat.
Der Verhaltenskodex der Europäischen Union zur Transparenz KI-generierter Inhalte drängt Anbieter dazu, KI-Ergebnisse zu kennzeichnen, und Anwender dazu, Deepfakes zu kennzeichnen.
Die Richtlinie von Google Play für KI-generierte Inhalte verbietet Nutzern das Veröffentlichen von nicht einvernehmlichem Deepfake-Sexualmaterial und von Wahlkampfinhalten, die „nachweislich irreführend oder falsch“ sind.
Nur wenigen Nutzern ist es gestattet, KI in nicht offengelegten Beiträgen auf Medium zu verwenden, und die Plattform verbietet KI-generierte Desinformation kategorisch.
Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Wie hat der Aufsichtsrat von Meta entschieden?
Der Vorstand hob Metas Entscheidung auf, ein KI-generiertes Video eines schottischen Labour-Ratsmitglieds online zu lassen, und forderte dessen Entfernung gemäß der Richtlinie gegen Hassverbrechen, da darin Flüchtlinge als Gruppe von räuberischen Sexualverbrechen beschuldigt wurden. Außerdem befand er Metas Regeln zur Kennzeichnung von Deepfakes für unzureichend.
Warum wurde das Deepfake-Video als Hassrede und nicht nur als Fehlinformation eingestuft?
Die Mehrheit des Vorstands erklärte, das Video unterstelle schwere Straftaten und räuberisches sexuelles Verhalten gegenüber Flüchtlingen als Gesamtgruppe, was gegen die Regeln von Meta zu Hassrede verstoße; es befand, dass eine Entfernung nicht allein aufgrund von Fehlinformationen gerechtfertigt sei, sondern dass der Clip mit dem Label „Hohes KI-Risiko“ hätte versehen werden müssen.
Was muss Meta als Nächstes tun?
Meta hat 60 Tage Zeit, auf die neun Empfehlungen des Boards zu reagieren. Diese umfassen die Senkung der Schwelle für „Hochrisiko“-Labels, die Priorisierung gemeldeter KI-Inhalte zur menschlichen Überprüfung, die Demonetarisierung oder Herabstufung von Hochrisiko-KI-Inhalten sowie die Veröffentlichung jährlicher Daten darüber, wie häufig KI-Labels angewendet werden.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast zehn Jahren Erfahrung im Bloggen und der Eventberichterstattung im Kryptobereich. Bei Cryptopolitanschreibt sie für die Nachrichtenseite und berichtet und analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Kryptoregulierung, KI und Zukunftstechnologien. Sie hat an der Arcadia University Betriebswirtschaftslehre studiert.
