Deutschland warnt soziale Plattformen vor der Verbreitung falscher KI-Holocaust-Bilder

Deutschland hat Social-Media-Plattformen vor der Verbreitung gefälschter, KI-generierter Holocaust-Bilder gewarnt. Die Bundesregierung und Holocaust-Gedenkstätten haben die Plattformen aufgefordert, die Verbreitung dieser Fälschungen zu stoppen, da sie die Geschichte verzerren und verharmlosen.

Gedenkstätten und Dokumentationszentren von Konzentrationslagern äußerten in einem kürzlich veröffentlichten Schreiben ihre Besorgnis über die Zunahme sogenannter KI-Fälschungen oder gefälschter Bilder im Zusammenhang mit dem Mord an über sechs Millionen Juden durch die Nazis in Deutschland während des Zweiten Weltkriegs. Diese Bilder beinhalten emotionale Darstellungen erfundener Ereignissedentwie etwa Begegnungen von KZ-Häftlingen mit ihren Befreiern oder Kinder hinter Stacheldrahtzäunen.

Deutschland will die Verbreitung falscher KI-Holocaust-Bilder stoppen

In dem Schreiben der Organisationen wurde darauf hingewiesen , dass KI-generierte Inhalte die Geschichte verzerren, indem sie schwerwiegende, lange zurückliegende Ereignisse verharmlosen. Solche Bilder könnten das Misstrauen gegenüber authentischen historischen Dokumenten schüren. Wolfram Weimer, Staatsminister für Kultur und Medien, erklärte, er unterstütze die Maßnahmen der Gedenkstätten und Institutionen und bezeichne sie als richtig.

Wolfram erwähnte außerdem, dass er die Entscheidung unterstütze, KI-generierte Bilder des antikendentzu kennzeichnen und gegebenenfalls aus den sozialen Medien zu entfernen. Dies sei ein Akt des Respekts vor den Millionen Menschen, die unter dem Terrorregime des nationalsozialistischen Deutschlands getötet und verfolgt wurden. Laut dem Schreiben der Gedenkstätten wurde angemerkt, dass die Urheber der Bilder diese offenbar nutzten, um online Aufmerksamkeit zu erregen und Geld zu verdienen.

Die Organisationen erwähnten außerdem, dass die Täter teilweise auch beabsichtigten, Fakten zu verfälschen, die Rollen von Opfern und Tätern zu verschieben und revisionistische Narrative zu verbreiten. Zu den Institutionen gehören Gedenkstätten für Bergen-Belsen, Buchenwald, Dachau und andere Konzentrationslager, in denen Juden sowie Angehörige anderer Bevölkerungsgruppen, darunter Roma und Sinti, ermordet wurden. Sie forderten die Plattformen sozialer Medien auf, proaktiv gegen gefälschte KI-Bilder zum Holocaust vorzugehen, anstatt auf Meldungen von Nutzern zu warten.

Holocaust-Organisationen fordern, dass KI-generierte Bilder gekennzeichnet werden

Darüber hinaus forderten sie die Plattformen auf, die Bilder eindeutig zu kennzeichnen, da sie befürchten, dass die Urheber sie dadurch nicht monetarisieren können. Die Verbreitung minderwertiger KI-generierter Inhalte, darunter gefälschte Texte, Bilder und Videos, hat bei vielen Experten Besorgnis ausgelöst. Sie befürchten, dass dies die Informationslandschaft verunreinigen und es Nutzern erschweren wird, Wahrheit von Falschheit zu unterscheiden. Dieserdent reiht sich ein in die Probleme, mit denen KI-Unternehmen, insbesondere Elon Musks xAI, dem der Chatbot Grok gehört, derzeit zu kämpfen haben.

Das Unternehmen steht seit einigen Wochen unter Druck, da einzelne Nutzer Tausende sexualisierte Deepfake-Bilder von Frauen und Minderjährigen erstellt und über verschiedene Social-Media-Plattformen verbreitet haben. Mehrere Staatschefs haben das Unternehmen daraufhin zur Ordnung gerufen, andere forderten es auf, geeignete Schutzmaßnahmen zu entwickeln, um den Vorfällen entgegenzuwirkendentLänder wie Indonesien haben zudem ein vorübergehendes Verbot des Chatbots verhängt, bis die Angelegenheit geklärt ist.

Die Plattform hat bestätigt, dass sie die Erstellung von Deepfakes durch Grok- und X-Nutzer in Ländern, in denen dies illegal ist, per Geoblocking einschränken wird. Es bleibt jedoch abzuwarten, ob die neuen Sicherheitsvorkehrungen auch für die eigenständige App oder die Website gelten. Ebenso unklar ist, ob die Maßnahmen die Nutzer davon abhalten werden, solche Bilder zu erstellen, oder ob sie nach neuen Wegen suchen müssen, um auf den Dienst zuzugreifen.