L'Allemagne met en garde les plateformes sociales contre la diffusion de fausses images de l'Holocauste créées par l'IA

L'Allemagne a mis en garde les plateformes de réseaux sociaux contre la diffusion de fausses images de l'Holocauste générées par intelligence artificielle. Le gouvernement et les institutions mémoriales de l'Holocauste ont demandé aux plateformes de réseaux sociaux de mettre fin à la diffusion de ces images falsifiées, qui, selon eux, déforment et banalisent l'histoire.

Dans une lettre récente, des mémoriaux et des centres de documentation sur les camps de concentration ont exprimé leurs inquiétudes face à la prolifération d'images falsifiées, souvent qualifiées de « bêtises » ou de « images de synthèse », concernant le massacre de plus de six millions de Juifs par les nazis en Allemagne pendant la Seconde Guerre mondiale. Ces images comprennent des illustrations à forte charge émotionnelle d'incidents inventésdentcomme des rencontres entre des détenus et leurs libérateurs ou des enfants derrière des barbelés.

L'Allemagne souhaite stopper la diffusion de fausses images de l'Holocauste générées par l'IA

Dans la lettre adressée aux organisations, il est souligné que les contenus générés par l'IA déforment l'histoire en banalisant des événements graves survenus il y a longtemps. Ces organisations ont également indiqué que de telles images pourraient alimenter la méfiance envers les utilisateurs de documents historiques authentiques. Wolfram Weimer, ministre d'État allemand à la Culture et aux Médias, a déclaré soutenir les mesures prises par les institutions mémorielles dans cette affaire, reconnaissant qu'il s'agissait d'une démarche appropriée.

Wolfram a également indiqué soutenir leur décision de signaler et, le cas échéant, de retirer des réseaux sociaux les images générées par IA représentant les anciensdent. Il a souligné qu'il s'agissait d'une question de respect pour les millions de personnes tuées et persécutées sous le régime de terreur nazi. Selon la lettre des institutions mémorielles, les créateurs de ces images semblaient les utiliser pour susciter l'intérêt en ligne et en tirer profit.

Les organisations ont également indiqué que les auteurs de ces actes cherchaient en partie à déformer les faits, à inverser les rôles de victime et de bourreau, et à diffuser des récits révisionnistes. Parmi ces institutions figurent des mémoriaux dédiés à Bergen-Belsen, Buchenwald, Dachau et d'autres camps de concentration où des Juifs, ainsi que d'autres personnes, notamment des Roms et des Sintis, ont été assassinés. Elles ont exhorté les plateformes de réseaux sociaux à lutter activement contre la diffusion de fausses images générées par intelligence artificielle concernant l'Holocauste, au lieu d'attendre que les utilisateurs les signalent.

Les organisations de mémoire de l'Holocauste souhaitent que les images générées par l'IA soient étiquetées

De plus, ils ont demandé aux plateformes de les étiqueter clairement, car ils estiment que cela empêchera les utilisateurs ayant généré ces images de les monétiser. La diffusion de contenus de mauvaise qualité générés par l'IA, tels que de faux textes, images ou vidéos, a suscité l'inquiétude de nombreux experts. Ils craignent que cela ne pollue le paysage informationnel et ne rende difficile pour les utilisateurs de distinguer le vrai du faux. Cetdent fait suite à celui auquel sont actuellement confrontées les entreprises spécialisées en IA, notamment xAI d'Elon Musk, propriétaire du chatbot Grok.

L'entreprise est sous pression depuis quelques semaines suite à la diffusion, par certains utilisateurs, de milliers d'images truquées à caractère sexuel de femmes et de mineures sur plusieurs réseaux sociaux. Face à cette situation, plusieurs dirigeants ont appelé l'entreprise à prendre des mesures, tandis que d'autres lui ont demandé de mettre en place des protections adéquatesdent. Des pays comme l'Indonésie ont également annoncé une interdiction temporaire du chatbot jusqu'à ce que le problème soit résolu

Parallèlement, la plateforme a confirmé qu'elle bloquera géographiquement la possibilité pour les utilisateurs de Grok et X de générer des deepfakes de personnes dans les zones où ces actions sont illégales. Cependant, il reste à voir si ces nouvelles mesures de protection s'appliqueront à son application mobile ou à son site web. Il reste également à voir si elles dissuaderont les utilisateurs de générer ce type d'images ou s'ils les inciteront à trouver d'autres moyens d'accéder au service.