- La IA alimenta la desinformación, pero también puede combatirla mediante la detección.
- Los esfuerzos colaborativos con alianzas entre tecnología y medios son esenciales para combatir la desinformación.
- La sinergia humano-IA para la verificación de hechos requiere tanto herramientas de IA como esfuerzo humano.
La propagación generalizada de la desinformación se ha visto exacerbada por Internet, con las plataformas de redes sociales convirtiéndose en un caldo de cultivo para información engañosa. Un informe de Eurobarómetro reveló que el 28% de los ciudadanos de la UE han sido víctimas de noticias falsas, una crisis agravada en naciones con libertad de prensa restringida. La rápida evolución de las herramientas de IA generativa, como ChatGPT para texto y MidJourney para imágenes, ha generado preocupaciones sobre la posible intensificación de la desinformación. Laurence Dierickx, de la Universidad de Bergen, advierte que la accesibilidad y la velocidad de la difusión de contenido generado por IA han alcanzado niveles sin precedentes, contribuyendo a la proliferación desenfrenada de la desinformación.
El lado oscuro de la IA amplificando la desinformación
Si bien la IA tiene el potencial de producir contenido divertido, como imágenes generadas por IA del Papa con una chaqueta acolchada o deepfakes que muestran el arresto de Donald Trump, los actores malintencionados están aprovechando cada vez más las capacidades de la IA para sus agendas siniestras. Anja Bechmann, de la Universidad de Aarhus, señala que la IA ha permitido la creación y amplificación de desinformación en todo el mundo, empleando a menudo técnicas como deepfakes de plataformas como DALL-E y MidJourney. Este fenómeno de «ataques rápidos de desinformación» implica lanzar información falsa rápida y ampliamente para crear caos inmediato.
El desafío de abordar la tontería generada por la IA
Los verificadores de hechos enfrentan una batalla cuesta arriba cuando se enfrentan a la abrumadora tarea de verificar manualmente el contenido generado por IA. Sobrecargados y a menudo sujetos a acoso en línea, estos profesionales luchan por mantenerse al día con la velocidad y el volumen de la desinformación difundida. La necesidad de una solución eficiente se ha vuelto más urgente que nunca.
Irónicamente, la misma tecnología que alimenta la desinformación también puede aprovecharse para combatirla. La IA puede desempeñar un papel crucial en la detección y mitigación del problema. Un enfoque efectivo implica desplegar modelos de detección de contenido de extremo a extremo que comparen declaraciones contra una base de datos predefinida para determinar su veracidad. Meta, la empresa matriz de Facebook, ha presentado Sphere, una herramienta de IA que cruza las afirmaciones con la base de conocimiento colectiva de Wikipedia. Sin embargo, surgen limitaciones al depender de la precisión de Wikipedia como referencia, y persisten dudas sobre la fiabilidad de este enfoque en el periodismo.
Colaboraciones de verificación de hechos
Combatir la desinformación requiere colaboración entre los gigantes tecnológicos y la industria de las noticias. Project Origin, una colaboración que involucra a Microsoft y organizaciones de medios como la BBC y The Telegraph, busca preservar la integridad de la difusión de noticias desde su creación hasta su consumo. Esta iniciativa emplea varias herramientas para identificar contenido preciso utilizando metadatos de archivos transcoded.
De manera similar, NODES, un proyecto que involucra a AFP, CNRS y otros, se centra en analizar el recorrido de la desinformación a través de los medios tradicionales y digitales en múltiples idiomas europeos. Esta iniciativa ejemplifica la sinergia entre verificadores de hechos y organizaciones de noticias, una asociación crucial para abordar la desinformación de manera efectiva.
Un modelo noruego: verificación de hechos impulsada por IA
Noruega ofrece un ejemplo convincente de cooperación entre verificadores de hechos y medios de comunicación. Faktisk.no, una organización sin fines de lucro dedicada a la verificación de hechos, colabora con seis organizaciones de noticias competidoras en Noruega. Su departamento de IA, Faktisk Innsikt, emplea bases de datos, Procesamiento del Lenguaje Natural y Modelos de Lenguaje Noruego para combatir la desinformación en el país.
Fomentando soluciones integrales
La lucha contra la desinformación va más allá de los esfuerzos individuales. FERMI, un consorcio de 17 instituciones financiado por la Unión Europea, está trabajando activamente en múltiples iniciativas para contrarrestar la desinformación y las noticias falsas. Sin embargo, la transición hacia la automatización total de la verificación de hechos con IA sigue siendo un objetivo lejano. El flujo de trabajo actual requiere los esfuerzos combinados de la IA y los verificadores de hechos humanos.
A medida que la industria de las noticias contempla integrar la IA en las redacciones, es esencial aprovechar las herramientas de IA no solo para la creación de contenido, sino también para contrarrestar la propagación de la desinformación. Un enfoque multifacético que involucre IA, esfuerzos colaborativos de verificación de hechos y alianzas fortalecidas entre empresas tecnológicas y organizaciones de noticias es crucial para crear un entorno digital más informado y confiable.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
