Deutschland warnt Social-Media-Plattformen vor der Verbreitung falscher KI-Holocaust-Bilder

Deutschland hat Social-Media-Plattformen vor der Verbreitung falscher KI-Holocaust-Bilder gewarnt. Die Regierung und Holocaust-Gedenkstätten haben Social-Media-Plattformen aufgefordert, die Verbreitung gefälschter Bilder zu stoppen, die nach ihrer Aussage die Geschichte verzerren und trivialisieren.

In einem kürzlichen Brief äußerten Gedenkstätten und Dokumentationszentren von Konzentrationslagern Bedenken und kritisierten den Anstieg sogenannter KI-Slop oder gefälschter Bilder im Zusammenhang mit der Ermordung von mehr als sechs Millionen Juden in Deutschland während des Zweiten Weltkriegs. Diese Bilder umfassen emotionale Illustrationen erfundener Vorfälle, wie Treffen von Häftlingen in Konzentrationslagern und ihren Befreiern oder Kindern hinter Stacheldrahtzäunen.

Deutschland will die Verbreitung falscher KI-Holocaust-Bilder stoppen

In dem von den Organisationen versandten Brief stellten sie fest, dass KI-generierte Inhalte die Geschichte verzerren, indem sie ernste Ereignisse, die vor langer Zeit stattfanden, trivialisiert werden. Sie erwähnten, dass solche Bilder das Misstrauen der Nutzer gegenüber authentischen historischen Dokumenten nähren könnten. Wolfram Weimer, der deutsche Staatsminister für Kultur und Medien, erklärte, er unterstütze die von den Gedenkstätten in diesem Fall ergriffenen Schritte und Bemühungen und betonte, dass dies der richtige Schritt sei.

Wolfram erwähnte auch, dass er ihre Entscheidung unterstütze, KI-generierte Bilder der alten Vorfälle zu kennzeichnen und, wo nötig, von Social-Media-Plattformen zu entfernen. Er betonte, dass dies eine Frage des Respekts für Millionen von Menschen sei, die unter dem NS-Regime ermordet und verfolgt wurden. Laut dem Brief der Gedenkstätten stellten sie fest, dass die Ersteller der Bilder sie offenbar nutzten, um online Aufmerksamkeit zu generieren und Geld zu verdienen.

Die Organisationen erwähnten auch, dass die Täter teilweise beabsichtigten, Fakten zu verwässern, Opfer- und Täterrollen zu verschieben und revisionistische Narrative zu verbreiten. Zu den Institutionen gehören Gedenkzentren für Belsen, Buchenwald, Dachau und andere Konzentrationslager, in denen Juden sowie andere, darunter Roma und Sinti, ermordet wurden. Sie baten Social-Media-Plattformen, proaktiv gegen gefälschte KI-Bilder rund um den Holocaust vorzugehen, anstatt auf Meldungen der Nutzer zu warten.

Holocaust-Organisationen wollen KI-generierte Bilder kennzeichnen lassen

Darüber hinaus baten sie die Plattformen, diese klar zu kennzeichnen, da sie glauben, dass dies verhindern wird, dass die Nutzer, die die Bilder generiert haben, sie monetarisieren können. Die Verbreitung von qualitativ minderwertigem KI-Slop, der gefälschten Text, Bilder oder Videos umfasst, hat bei vielen Experten Alarm ausgelöst. Sie glauben, dass dies die Informationslandschaft verschmutzen und es den Nutzern erschweren wird, die Wahrheit von Falschmeldungen zu trennen. Der Vorfall folgt auf denjenigen, mit dem KI-Unternehmen, insbesondere Elon Musks xAI, das den Chatbot Grok besitzt, derzeit zu kämpfen hat.

Das Unternehmen stand in den letzten Wochen unter Druck, da bestimmte Nutzer Tausende sexualisierter Deepfake-Bilder von Frauen und Minderjährigen generiert und diese auf mehreren Social-Media-Plattformen verbreitet hatten. Die Bedrohung hat mehrere Führer von Ländern dazu veranlasst, das Unternehmen zur Rede zu stellen, während andere forderten, angemessene Schutzmaßnahmen zur Bekämpfung der Vorfälle zu entwickeln. Länder wie Indonesien haben zudem ein vorübergehendes Verbot des Chatbots angekündigt, bis alles geklärt ist.

In der Zwischenzeit hat die Plattform bestätigt, dass sie die Möglichkeit, Deepfakes von Personen zu erstellen, geoblocken wird, in Regionen, in denen diese Handlungen als illegal eingestuft sind. Es bleibt jedoch abzuwarten, ob die neuen Schutzmaßnahmen auch für die eigenständige Anwendung oder die Website gelten. Ebenso ist unklar, ob die Maßnahmen Nutzer davon abhalten werden, derartige Bilder zu erstellen, oder ob sie sie lediglich dazu drängen, nach neuen Wegen zum Zugriff auf den Dienst zu suchen.