La Germania avverte le piattaforme social sulla diffusione di false immagini AI dell'Olocausto

La Germania ha avvertito le piattaforme social sulla diffusione di false immagini AI dell'Olocausto. Il governo e le istituzioni memoriali dell'Olocausto hanno chiesto alle piattaforme social di fermare la diffusione di immagini false, che secondo loro distorcono e banalizzano la storia.

Preoccupazioni sono state espresse dai siti memoriali dei campi di concentramento e dai centri di documentazione in una recente lettera, criticando l'aumento di cosiddetto spazzatura AI o immagini falsificate, intorno all'uccisione da parte dei nazisti di oltre sei milioni di ebrei in Germania durante la Seconda Guerra Mondiale. Queste immagini includono illustrazioni emotive di incidenti inventati, come incontri tra detenuti dei campi di concentramento e i loro liberatori o bambini dietro recinzioni di filo spinato.

La Germania vuole fermare la diffusione di false immagini AI dell'Olocausto

Nella lettera inviata dalle organizzazioni, hanno notato che i contenuti generati dall'IA distorcono la storia banalizzando eventi gravi accaduti molto tempo fa. Hanno menzionato che tali immagini potrebbero alimentare la sfiducia tra gli utenti di documenti storici autentici. Wolfram Weimer, ministro federale tedesco per la Cultura e i Media, ha dichiarato di sostenere i passi e gli sforzi compiuti dalle istituzioni memoriali in questo caso, rivelando che è il passo giusto da compiere.

Wolfram ha anche menzionato di sostenere la loro decisione di contrassegnare e, nei casi necessari, rimuovere dalle piattaforme social le immagini generate dall'IA relative agli eventi antichi. Ha dichiarato che si tratta di una questione di rispetto per milioni di persone uccise e perseguitate sotto il regime di terrore della Germania nazista. Secondo la lettera delle istituzioni memoriali, hanno notato che i creatori delle immagini sembravano usarle per generare attenzione online e guadagnare denaro.

Le organizzazioni hanno anche menzionato che i responsabili intendevano in parte diluire i fatti, spostare i ruoli tra vittime e carnefici e diffondere narrazioni revisioniste. Le istituzioni includono centri memoriali per Belsen, Buchenwald, Dachau e altri campi di concentramento dove ebrei, nonché altri, tra cui rom e sinti, furono uccisi. Hanno chiesto alle piattaforme social di agire proattivamente contro le false immagini AI relative all'Olocausto piuttosto che aspettare che gli utenti le segnalino.

Le organizzazioni dell'Olocausto vogliono che le immagini generate dall'IA siano etichettate

Inoltre, hanno chiesto alle piattaforme di etichettarle chiaramente, poiché credono che ciò impedirà agli utenti che hanno generato le immagini di monetizzarle. La diffusione di bassa qualità spazzatura AI, che include testo falso, immagini o video, ha sollevato allarmi tra molti esperti. Credono che inquina il panorama informativo e rende difficile per gli utenti separare la verità dalla falsità. L'incidente segue quello in cui le aziende di IA, in particolare xAI di Elon Musk, che possiede il chatbot Grok, stanno attualmente affrontando.

L'azienda è stata sotto pressione nelle ultime settimane per la generazione da parte di alcuni utenti di migliaia di immagini deepfake sessualizzate di donne e minori e la loro diffusione su diverse piattaforme social. La minaccia ha visto diversi leader di paesi chiamare l'azienda a rispondere delle proprie azioni, mentre altri le chiedevano di sviluppare le appropriate misure di sicurezza per affrontare gli incidenti. Paesi come l'Indonesia hanno anche annunciato un divieto temporaneo del chatbot fino a quando tutto non sarà risolto.

Nel frattempo, la piattaforma ha confermato che geobloccherà la capacità di Grok e degli utenti X di generare deepfake di persone in località dove le azioni sono classificate come illegali. Resta da vedere se le nuove misure di sicurezza si applicheranno alla sua applicazione standalone o al suo sito web. Resta anche da vedere se le misure fermeranno gli utenti dal generare questo tipo di immagini o li spingeranno a cercare nuovi modi per accedere al servizio.