La UNESCO teme que la IA pueda distorsionar la memoria del Holocausto

La UNESCO ha expresado su preocupación por la posibilidad de que la IA generativa distorsione la historia del Holocausto si los desarrolladores de IA no aplican estándares éticos. En un informe publicado el lunes, UNICEF advirtió sobre el posible uso indebido de la IA generativa por parte de actores maliciosos.

Lea también: Los bancos centrales deben "mejorar su desempeño" en inteligencia artificial, advierte el BIS.

El informe de la UNESCO advierte que los malos actores pueden utilizar la tecnología para difundir desinformación, información errónea y contenido engañoso sobre el Holocausto.

Los jóvenes son vulnerables a la información errónea

El informe, publicado en conjunto con el Congreso Judío Mundial, advierte que los jóvenes corren un mayor riesgo de recibir información distorsionada debido a su alta exposición a tecnologías emergentes como la IA.

Esto surge a medida que los informes también sugieren que el 80% de los jóvenes entre 10 y 24 años utilizan IA para diversas tareas, como tareas escolares, lo que aumenta sus posibilidades de acceder a información distorsionada.

“Si permitimos que los horribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de una propagación explosiva del antisemitismo y una disminución gradual de nuestra comprensión sobre las causas y las consecuencias de estas atrocidades”

La directora general de la UNESCO, Audrey Azoulay.

El informe también destaca que la IA tiene unatronpropensión a simplificar excesivamente la historia compleja, privilegiando un rango limitado de fuentes y una pequeña selección de eventos. Por ejemplo, entre el 60% y el 80% de los resultados de imagen principales de los motores de búsqueda basados ​​en IA muestran solo un sitio del Holocausto: Auschwitz-Birkenau.

La UNESCO pide medidas para hacer cumplir la ética

El informe sostiene que la IA puede perpetuar los sesgos existentes, y el Holocausto no se librará de ellos. Según la UNESCO, ya existe una gran desinformación sobre el Holocausto, que puede agravarse debido al uso de la IA generativa.

Lea también: Meta AI se expande a la India en medio de la creciente competencia de IA

Azoulay destacó la importancia de aplicar normas éticas para proteger a los jóvenes de la información distorsionada.

“Es urgente implementar la Recomendación de la UNESCO sobre la ética de la IA para que las generaciones más jóvenes crezcan con hechos y no con invenciones”

Azoulay.

El informe destaca que modelos de IA como ChatGPT de OpenAI y Bard de Google, ahora Gemini, han alucinado sobre el Holocausto, detallando eventos que nunca ocurrieron. Según la UNESCO, estos modelos han "inventado el concepto del Holocausto mediante campañas de ahogamiento en las que los nazis ahogaron a judíos en ríos y lagos"

Los modelos de IA también han creado citas falsas para respaldar estas narrativas distorsionadas. Ante estos incidentes, la UNESCO solicitó un enfoque multisectorial para abordar el desafío. Una de las soluciones es la rápida implementación de la Recomendación sobre la Ética de la IA , adoptada por los Estados miembros en 2021.

La UNESCO también instó a las empresas tecnológicas a respetar los principios de equidad, transparencia, derechos humanos y diligencia debida. Ocho empresas tecnológicas firmaron un compromiso con el director general de la UNESCO en febrero, comprometiéndose a aplicar un enfoque ético en el desarrollo de sus modelos de IA.

Informe Cryptopolitan de Enacy Mapakame