Alemanha alerta plataformas sociais sobre a disseminação de falsas imagens de holocausto geradas por IA

A Alemanha alertou as plataformas de mídia social sobre a disseminação de falsas imagens de holocausto geradas por IA. O governo e as instituições de memória do Holocausto pediram às plataformas de mídia social que interrompam a disseminação de imagens falsas, que alegam estar distorcendo e trivializando a história.

Preocupações foram expressas por locais de memória de campos de concentração e centros de documentação em uma carta recente, criticando o aumento do chamado lixo de IA ou imagens falsificadas, em torno do assassinato de mais de seis milhões de judeus na Alemanha durante a Segunda Guerra Mundial. Essas imagens incluem ilustrações emocionantes de incidentes inventados, como reuniões de prisioneiros de campos de concentração e seus libertadores ou crianças atrás de cercas de arame farpado.

Alemanha quer deter a disseminação de falsas imagens de holocausto geradas por IA

Na carta enviada pelas organizações, eles observaram que o conteúdo gerado por IA distorce a história ao trivializar eventos sérios que aconteceram há muito tempo. Eles mencionaram que tais imagens poderiam ajudar a alimentar a desconfiança entre usuários de documentos históricos autênticos. Wolfram Weimer, ministro estadual alemão para Cultura e Mídia, mencionou que apoiou as medidas e esforços tomados pelas instituições de memória neste caso, revelando que é o passo certo a ser dado.

Wolfram também mencionou que apoiou sua decisão de marcar e, nos casos necessários, remover da mídia social imagens geradas por IA de incidentes antigos. Ele mencionou que se trata de uma questão de respeito por milhões de pessoas que foram mortas e perseguidas sob o regime de terror da Alemanha Nazista. De acordo com a carta das instituições de memória, eles notaram que os criadores das imagens pareciam usá-las para gerar atenção online e ganhar dinheiro.

As organizações também mencionaram que os perpetradores também pretendiam parcialmente diluir os fatos, mudar os papéis de vítima e perpetrador e espalhar narrativas revisionistas. As instituições incluem centros de memória de Belsen, Buchenwald, Dachau e outros campos de concentração onde judeus, bem como outros, incluindo ciganos e sintis, foram mortos. Eles pediram às plataformas de mídia social que atuem proativamente contra imagens falsas de IA sobre o Holocausto, em vez de esperar que os usuários as denunciem.

Organizações do Holocausto querem que imagens geradas por IA sejam rotuladas

Além disso, eles pediram às plataformas que as rotulassem claramente, pois acreditam que isso impedirá que os usuários que geraram as imagens possam monetizá-las. A disseminação de lixo de IA de baixa qualidade, que inclui texto falso, imagens ou vídeo, levantou alarme entre muitos especialistas. Eles acreditam que isso poluirá o cenário de informações e dificultará para os usuários separar a verdade da falsidade. O incidente segue aquele com o qual as empresas de IA, notavelmente a xAI de Elon Musk, que possui o chatbot Grok, estão atualmente lidando.

A empresa tem estado sob pressão nas últimas semanas devido a certos usuários gerando milhares de imagens deepfake sexualizadas de mulheres e menores e espalhando-as por várias plataformas de mídia social. A ameaça levou vários líderes de países a chamar a empresa à ordem, enquanto outros pediram que desenvolvessem as salvaguardas apropriadas para lidar com os incidentes. Países como a Indonésia também anunciaram uma proibição temporária do chatbot até que tudo seja resolvido.

Enquanto isso, a plataforma confirmou que irá geobloquear a capacidade do Grok e dos usuários da X de gerar deepfakes de pessoas em locais onde as ações são marcadas como ilegais. No entanto, ainda está por ver se as novas salvaguardas se aplicarão ao seu aplicativo independente ou ao seu site. Também está por ver se as medidas impedirão os usuários de gerar esse tipo de imagem ou os empurrarão a procurar novas maneiras de acessar o serviço.