Alemania advierte a las plataformas sociales sobre la difusión de falsas imágenes del Holocausto generadas por IA

Alemania ha advertido a las plataformas sociales sobre la difusión de falsas imágenes del Holocausto generadas por IA. El gobierno y las instituciones conmemorativas del Holocausto han solicitado a las plataformas de redes sociales que detengan la propagación de imágenes falsas, que según ellos distorsionan y banalizan la historia.

Sitios conmemorativos de campos de concentración y centros de documentación expresaron sus preocupaciones en una carta reciente, criticando el aumento del llamado slop de IA o imágenes falsificadas sobre el asesinato de más de seis millones de judíos por parte de los nazis en Alemania durante la Segunda Guerra Mundial. Estas imágenes incluyen ilustraciones emotivas de incidentes inventados, como reuniones entre prisioneros de campos de concentración y sus liberadores, o niños tras alambrados con púas.

Alemania quiere frenar la difusión de falsas imágenes del Holocausto generadas por IA

En la carta enviada por las organizaciones, estas señalaron que el contenido generado por IA distorsiona la historia al trivializar eventos graves ocurridos hace mucho tiempo. Mencionaron que dichas imágenes podrían alimentar la desconfianza entre los usuarios de documentos históricos auténticos. Wolfram Weimer, ministro estatal alemán de Cultura y Medios, indicó que respalda las medidas y esfuerzos emprendidos por las instituciones conmemorativas en este caso, revelando que se trata del paso correcto a seguir.

Wolfram también mencionó que apoyaba su decisión de marcar las imágenes generadas por IA sobre los incidentes antiguos y, cuando fuera necesario, eliminarlas de las plataformas de redes sociales. Señaló que se trata de un asunto de respeto por millones de personas que fueron asesinadas y perseguidas bajo el régimen de terror de la Alemania nazi. Según la carta de las instituciones conmemorativas, señalaron que los creadores de las imágenes parecían utilizarlas para generar atención en línea y obtener dinero.

Las organizaciones también señalaron que los perpetradores tenían en parte la intención de diluir los hechos, invertir los roles de víctima y victimario, y difundir narrativas revisionistas. Las instituciones incluyen centros conmemorativos de Belsen, Buchenwald, Dachau y otros campos de concentración donde fueron asesinados judíos, así como otras personas, incluidos los pueblos romaníes y sinti. Solicitaron a las plataformas de redes sociales que actúen de forma proactiva contra las imágenes generadas por IA falsas sobre el Holocausto, en lugar de esperar a que los usuarios las reporten.

Organizaciones del Holocausto exigen que se etiqueten las imágenes generadas por IA

Además, pidieron a las plataformas que las etiqueten claramente, ya que consideran que esto impedirá que quienes generaron las imágenes puedan monetizarlas. La proliferación de contenido generado por IA de baja calidad, que incluye texto, imágenes o videos falsos, ha generado alarma entre muchos expertos. Creen que esto contaminaría el panorama informativo y dificultaría que los usuarios distingan la verdad de la falsedad. Este incidente sigue a otro con el que empresas de IA, notablemente xAI de Elon Musk, propietaria del chatbot Grok, están lidiando actualmente.

La empresa ha estado bajo presión durante las últimas semanas debido a que ciertos usuarios generaban miles de imágenes deepfake sexualizadas de mujeres y menores, difundiéndolas en varias plataformas de redes sociales. Esta amenaza ha llevado a varios líderes de países a exigir responsabilidades a la compañía, mientras otros les han pedido desarrollar las salvaguardias adecuadas para abordar estos incidentes. Países como Indonesia también han anunciado una prohibición temporal del chatbot hasta que se resuelva todo.

Mientras tanto, la plataforma ha confirmado que geobloqueará la capacidad de Grok y los usuarios de X para generar deepfakes de personas en ubicaciones donde dichas acciones se consideren ilegales. Sin embargo, aún está por verse si las nuevas medidas de seguridad se aplicarán a su aplicación independiente o a su sitio web. También queda por ver si estas medidas impedirán a los usuarios generar este tipo de imágenes o si los impulsarán a buscar nuevas formas de acceder al servicio.