La UNESCO teme que la IA pueda distorsionar la memoria del Holocausto
Enacy Mapakame
2 min de lectura
- Un informe de la UNESCO plantea el temor de que la IA pueda borrar la historia correcta del Holocausto.
- Los jóvenes corren riesgo debido a su alta exposición a productos de IA.
- La UNESCO ha pedido la implementación urgente de principios éticos.
La UNESCO ha expresado preocupaciones de que la IA generativa pueda distorsionar la historia del Holocausto si los desarrolladores de IA no aplican estándares éticos. En un informe publicado el lunes, UNICEF advirtió sobre el posible mal uso de la IA generativa por parte de actores malintencionados.
También lea: Los bancos centrales deben «mejorar su juego» en IA, advierte el BIS
El informe de la UNESCO advierte que los actores malintencionados pueden usar la tecnología para difundir desinformación, información errónea y contenido engañoso sobre el Holocausto.
Los jóvenes son vulnerables a la información incorrecta
El informe, publicado en conjunto con el Congreso Judío Mundial, advierte que los jóvenes están más en riesgo de recibir información distorsionada debido a su alta exposición a tecnologías emergentes como la IA.
Esto ocurre mientras los informes también sugieren que el 80% de los jóvenes entre 10 y 24 años usan la IA para varias tareas como tareas escolares, lo que aumenta sus posibilidades de acceder a información distorsionada.
«Si permitimos que los hechos horroríficos del Holocausto sean diluidos, distorsionados o falsificados a través del uso irresponsable de la IA, corremos el riesgo de la propagación explosiva del antisemitismo y la disminución gradual de nuestra comprensión sobre las causas y consecuencias de estas atrocidades.»
Audrey Azoulay, directora general de la UNESCO.
El informe también destaca que la IA tiene una fuerte tendencia a «simplificar en exceso la historia compleja, privilegiando un rango estrecho de fuentes y una pequeña selección de eventos». Por ejemplo, entre el 60% y el 80% de los resultados de imágenes principales de los motores de búsqueda impulsados por IA muestran solo un sitio del Holocausto, Auschwitz-Birkenau.
La UNESCO pide acción para hacer cumplir la ética
El informe sostiene que la IA puede perpetuar los sesgos existentes, y el Holocausto no estará exento de estos sesgos de IA. Ya existe una prevalencia de desinformación sobre el Holocausto, según la UNESCO, lo que puede empeorar debido al uso de IA generativa.
También lea: Meta AI se expande a India en medio de la creciente competencia en IA
Azoulay destacó la importancia de hacer cumplir los estándares éticos para proteger a los jóvenes de la información distorsionada.
«Implementar la Recomendación de la UNESCO sobre Ética de la IA es urgente para que las generaciones más jóvenes crezcan con hechos, y no con fabricaciones.»
Azoulay.
El informe destaca que modelos de IA como ChatGPT de OpenAI y Bard de Google, ahora Gemini, han alucinado sobre el Holocausto, detallando eventos que nunca ocurrieron. Según la UNESCO, estos modelos han «fabricado el concepto del Holocausto ahogando campañas en las que los nazis ahogaban judíos en ríos y lagos.»
Los modelos de IA también han creado citas falsas para apoyar estas narrativas distorsionadas. A la luz de estos incidentes, la UNESCO pidió un enfoque multilateral para abordar el desafío. Una de las soluciones es la implementación rápida de la Recomendación sobre Ética de la IA, que fue adoptada por los estados miembros en 2021.
La UNESCO también instó a las empresas tecnológicas a respetar los principios de equidad, transparencia, derechos humanos y diligencia debida. Ocho empresas tecnológicas firmaron un compromiso con la directora general de la UNESCO en febrero, comprometiéndose a aplicar un enfoque ético en el desarrollo de sus modelos de IA.
Reporte de Cryptopolitan por Enacy Mapakame
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es una periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre los mercados de capitales y las tecnologías emergentes: el metaverso, la inteligencia artificial y las criptomonedas. Enacy posee un título de licenciatura con honores en Estudios de Medios y Sociedad.
