L'Allemagne met en garde les plateformes sociales contre la propagation de fausses images IA de l'Holocauste

L'Allemagne a mis en garde les plateformes de réseaux sociaux contre la propagation de fausses images IA de l'Holocauste. Le gouvernement et les institutions mémorielles de l'Holocauste ont demandé aux plateformes de réseaux sociaux de stopper la propagation de fausses images, qu'elles affirment déformer et banaliser l'histoire.

Des préoccupations ont été exprimées par les sites mémoriels des camps de concentration et les centres de documentation dans une lettre récente, critiquant la prolifération de ce que l'on appelle l'IA slop ou d'images falsifiées, autour de l'assassinat par les Nazis de plus de six millions de Juifs en Allemagne pendant la Seconde Guerre mondiale. Ces images incluent des illustrations émotionnelles d'incidents inventés, tels que des réunions d'internés de camps de concentration et de leurs libérateurs ou d'enfants derrière des clôtures de barbelés.

L'Allemagne veut arrêter la propagation de fausses images IA de l'Holocauste

Dans la lettre envoyée par les organisations, elles ont noté que le contenu généré par l'IA déforme l'histoire en banalisant des événements graves survenus il y a longtemps. Elles ont mentionné que de telles images pourraient alimenter la méfiance parmi les utilisateurs de documents historiques authentiques. Wolfram Weimer, ministre d'État allemand à la Culture et aux Médias, a indiqué qu'il soutenait les mesures et les efforts pris par les institutions mémorielles dans ce cas, révélant que c'est la bonne démarche à suivre.

Wolfram a également mentionné qu'il soutenait leur décision de marquer les images générées par l'IA des incidents anciens et, le cas échéant, de les retirer des plateformes de réseaux sociaux. Il a indiqué qu'il s'agit d'une question de respect pour les millions de personnes tuées et persécutées sous le régime de terreur de l'Allemagne nazie. Selon la lettre des institutions mémorielles, elles ont noté que les créateurs des images semblaient les utiliser pour générer de l'attention en ligne et gagner de l'argent.

Les organisations ont également mentionné que les auteurs avaient en partie l'intention de diluer les faits, de déplacer les rôles des victimes et des auteurs, et de diffuser des récits révisionnistes. Les institutions comprennent les centres mémoriels de Belsen, Buchenwald, Dachau et d'autres camps de concentration où des Juifs, ainsi que d'autres, y compris les Roms et les Sinti, ont été tués. Elles ont demandé aux plateformes de réseaux sociaux d'agir proactivement contre les fausses images IA de l'Holocauste plutôt que d'attendre que les utilisateurs les signalent.

Les organisations de l'Holocauste veulent que les images générées par l'IA soient étiquetées

De plus, elles ont demandé aux plateformes de les étiqueter clairement, car elles estiment que cela empêchera les utilisateurs qui ont généré les images de les monétiser. La propagation de l'IA slop de faible qualité, qui comprend de faux textes, images ou vidéos, a suscité l'inquiétude de nombreux experts. Ils estiment qu'elle polluerait le paysage informationnel et rendrait difficile pour les utilisateurs de distinguer la vérité du mensonge. L'incident fait suite à celui auquel font face les entreprises d'IA, notamment xAI d'Elon Musk, qui possède le chatbot Grok.

L'entreprise a été sous pression au cours des deux dernières semaines concernant certains utilisateurs générant des milliers d'images deepfake sexualisées de femmes et de mineurs et les diffusant sur plusieurs plateformes de réseaux sociaux. Cette menace a vu plusieurs dirigeants de pays appeler l'entreprise à l'ordre, tandis que d'autres lui demandent de développer les garde-fous appropriés pour faire face aux incidents. Des pays comme l'Indonésie ont également annoncé une interdiction temporaire du chatbot jusqu'à ce que tout soit résolu.

Pendant ce temps, la plateforme a confirmé qu'elle géobloquera la capacité de Grok et des utilisateurs de X à générer des deepfakes de personnes dans les lieux où ces actions sont qualifiées d'illégales. Il reste à voir si les nouveaux garde-fous s'appliqueront à son application autonome ou à son site web. Il reste également à voir si les mesures empêcheront les utilisateurs de générer ce type d'images ou les pousseront à chercher de nouvelles façons d'accéder au service.