Utilizando la Inteligencia Artificial para protegerse contra la propagación de la desinformación

El problema pervasivo de la desinformación en línea está impulsando soluciones innovadoras, con la inteligencia artificial (IA) emergiendo como un posible cambio de juego. A medida que los deepfakes generados por IA elevan las apuestas para los estafas de voz y video, los expertos están explorando formas de aprovechar la IA y la tecnología blockchain para identificar y combatir la propagación de noticias falsas. Este nuevo enfoque busca priorizar la lucha contra la desinformación en áreas donde representa el mayor daño potencial, con el objetivo de empoderar a los creadores de contenido para abordar eficazmente la amenaza de la desinformación.

Aclaremos la desinformación frente a la información errónea. La desinformación es información falsa que se difunde, independientemente de si hay intención de engañar, mientras que la desinformación maliciosa significa "información falsa, como sobre la fuerza militar o los planes de un país, difundida por un gobierno o una agencia de inteligencia en un acto hostil de subversión política táctica". También se utiliza para significar "información deliberadamente engañosa o sesgada; narrativa o hechos manipulados; propaganda".

Aunque podemos tener las herramientas para resolver la desinformación, podríamos no estar en posición de contrarrestar la desinformación maliciosa o ser acusados de traición. La desinformación maliciosa implica un presupuesto militar gubernamental, está cubierta por un acuerdo de confidencialidad (NDA) y se mantiene en secreto por razones de seguridad. Obtener dicha información podría tomarse como espionaje o intromisión indebida que podría costarle su empleo gubernamental.

El impacto de la desinformación y la necesidad de contramedidas

Las consecuencias dañinas de la desinformación hacen imperativo encontrar estrategias efectivas para su contención. La línea difusa entre la información real y la fabricada, amplificada por la rápida difusión de noticias falsas en las plataformas de redes sociales, puede llevar a decisiones equivocadas y reacciones impulsivas del público.

Manjeet Rege, Director del Centro de Inteligencia Artificial Aplicada en la Universidad de St. Thomas, enfatiza que la información precisa es pivotal para la toma de decisiones informada. Señala que la velocidad a la que las noticias falsas pueden volverse virales requiere una acción inmediata para contrarrestar su influencia.

El papel dual de la IA en la creación y detección de noticias falsas

Investigaciones recientes destacan el potencial de los sistemas de aprendizaje automático para evaluar el daño potencial del contenido y señalar a los infractores más graves. Por ejemplo, durante el apogeo de la pandemia de COVID-19, el uso de IA identificó instancias de noticias falsas que promovían tratamientos no verificados en lugar de vacunas.

Thi Tran, profesora de sistemas de información de gestión que lidera esta investigación, enfatiza que la amenaza de las noticias falsas es más preocupante cuando causa un daño tangible a los lectores o audiencias. Identificar áreas donde la desinformación es probable que sea más dañina permite un enfoque dirigido para los esfuerzos de mitigación.

La sofisticación evolutiva de la IA y los peligros de los deepfakes

A medida que la tecnología de IA se vuelve más sofisticada, distinguir entre contenido real y falso se vuelve cada vez más desafiante. Los deepfakes generados por IA, que incluyen audio y videos falsificados, plantean amenazas graves. Sameer Hajarnis, Director de Producto de la empresa de verificación digital OneSpan, destaca los peligros de los deepfakes en estafas de phishing por voz y video, señalando que los criminales que explotan estas tácticas están en aumento.

Un incidente notable involucra un video deepfake que aparentemente respaldaba una oportunidad de inversión del prominente defensor de las finanzas al consumidor Martin Lewis, atribuido a Elon Musk. Este video, revelado más tarde como un deepfake generado por IA, subraya el poder de la IA para perpetuar el fraude.

Múltiples enfoques para combatir la desinformación

Mientras que el enfoque de la Universidad de Binghamton utiliza el aprendizaje automático para evaluar el daño potencial del contenido, la IA también posee la capacidad de detectar la autenticidad. Algunos contenidos generados por IA pueden parecer altamente convincentes para los humanos, pero pueden ser identificados fácilmente como falsos por los modelos de IA.

La criptografía ofrece otra vía en la lucha contra las noticias falsas. Yale Fox, experto en ciberseguridad y miembro de IEEE, sugiere utilizar la criptografía para proporcionar pruebas de la identidad de la persona. Codificar videos con claves públicas permite una verificación fácil de la autenticidad. Este enfoque elimina la necesidad de algoritmos de IA complejos y puede ejecutarse en varias plataformas y dispositivos.

Abordar las noticias falsas requiere un enfoque multifacético, que abarque tanto soluciones tecnológicas como cambios culturales más amplios. Subramaniam Vincent, Director del programa de ética en periodismo y medios en el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara, subraya la necesidad de colaboración entre los actores de la industria de la IA y las empresas de noticias. Además, fomentar los valores democráticos en la política y las elecciones es esencial para crear un entorno donde las herramientas de IA puedan contrarrestar eficazmente la distribución de noticias falsas.

La IA ciertamente ejerce una influencia significativa, pero debe trabajar en conjunto con otros factores para combatir los intrincados desafíos planteados por la desinformación. A medida que la batalla por la democracia se intensifica frente a la desinformación, la IA emerge como una herramienta potente, aunque requiere un enfoque integral para ser verdaderamente efectiva.