Alemania advierte a las redes sociales sobre la difusión de imágenes falsas del Holocausto con inteligencia artificial

Alemania ha advertido a las redes sociales sobre la difusión de imágenes falsas del Holocausto realizadas con inteligencia artificial. El gobierno y las instituciones conmemorativas del Holocausto han pedido a las redes sociales que detengan la difusión de imágenes falsas, que, según afirman, distorsionan y trivializan la historia.

En una carta reciente, los monumentos conmemorativos y los centros de documentación de los campos de concentración expresaron su preocupación por el aumento de las llamadas manipuladas mediante IA, o imágenes falsificadas, sobre el asesinato de más de seis millones de judíos por los nazis en Alemania durante la Segunda Guerra Mundial. Estas imágenes incluyen ilustraciones emotivas de incidentes inventadosdentcomo encuentros entre prisioneros de campos de concentración y sus liberadores, o niños tras alambradas.

Alemania quiere frenar la difusión de imágenes falsas del Holocausto generadas por inteligencia artificial

En la carta enviada por las organizaciones, señalaron que el contenido generado por IA distorsiona la historia al trivializar sucesos graves ocurridos hace mucho tiempo. Mencionaron que dichas imágenes podrían alimentar la desconfianza entre los usuarios de documentos históricos auténticos. Wolfram Weimer, ministro de Estado de Cultura y Medios de Comunicación de Alemania, manifestó su apoyo a las medidas y esfuerzos emprendidos por las instituciones conmemorativas en este caso, afirmando que se trata de la decisión correcta.

Wolfram también mencionó que apoyaba la decisión de marcar las imágenes generadas por IA del antiguodenty, en los casos necesarios, eliminarlas de las redes sociales. Mencionó que se trata de una cuestión de respeto por los millones de personas que fueron asesinadas y perseguidas bajo el régimen de terror de la Alemania nazi. Según la carta de las instituciones conmemorativas, señalaron que los creadores de las imágenes aparentemente las usaron para generar interés en línea y obtener ingresos.

Las organizaciones también mencionaron que los perpetradores también pretendían, en parte, diluir los hechos, cambiar los roles de víctima y perpetrador, y difundir narrativas revisionistas. Entre las instituciones se incluyen centros conmemorativos de Belsen, Buchenwald, Dachau y otros campos de concentración donde fueron asesinados judíos, así como otras personas, como romaníes y sintis. Solicitaron a las plataformas de redes sociales que actuaran proactivamente contra las imágenes falsas de IA sobre el Holocausto, en lugar de esperar a que los usuarios las denunciaran.

Las organizaciones del Holocausto quieren que las imágenes generadas por IA estén etiquetadas

Además, pidieron a las plataformas que las etiquetaran claramente, ya que creen que esto impediría que los usuarios que generaron las imágenes pudieran monetizarlas. La difusión de material basura de IA de baja calidad, que incluye texto, imágenes o vídeos falsos, ha alarmado a muchos expertos. Creen que contaminaría el panorama informativo y dificultaría a los usuarios distinguir la verdad de la falsedad. Estedent sigue al que enfrentan actualmente las empresas de IA, en particular xAI de Elon Musk, propietaria del chatbot Grok.

La compañía ha estado bajo presión durante las últimas semanas debido a que ciertos usuarios generaron miles de imágenes deepfake sexualizadas de mujeres y menores y las difundieron en varias plataformas de redes sociales. La amenaza ha llevado a varios líderes de países a llamar la atención de la compañía, mientras que otros les han pedido que implementen las medidas de seguridad adecuadas para abordar los incidentesdentPaíses como Indonesia también han anunciado la prohibición temporal del chatbot hasta que se resuelva el problema.

Mientras tanto, la plataforma ha confirmado que bloqueará geográficamente la capacidad de los usuarios de Grok y X para generar deepfakes de personas en lugares donde estas acciones se consideran ilegales. Sin embargo, queda por ver si las nuevas medidas de seguridad se aplicarán a su aplicación independiente o a su sitio web. También queda por ver si las medidas impedirán que los usuarios generen este tipo de imágenes o los impulsarán a buscar nuevas formas de acceder al servicio.