Los jóvenes se enfrentan al desafío y luchan contra las amenazas de los deepfakes con la verdad

El Informe de Riesgos Globales para 2024 del Foro Económico Mundial ha emitido una dura advertencia,dentla desinformación y la información errónea, impulsadas principalmente por deepfakes, como los riesgos globales a corto plazo más graves que enfrenta el mundo en los próximos dos años.

En este sentido, el Consejo de Innovación de Québec también reconoció la gravedad de la situación tras meses de consultas con expertos y el público.

Desafíos en la lucha contra los deepfakes

Los deepfakes, que utilizan inteligencia artificial e IA generativa para crear falsificaciones hiperrealistas, van más allá de las maravillas tecnológicas y representan una profunda amenaza social. A pesar del continuo desarrollo de herramientas de detección de deepfakes y de los esfuerzos legislativos, aún existe una brecha significativa en la lucha eficaz contra esta amenaza.

Si bien las herramientas de detección de deepfakes están en desarrollo, les cuesta mantenerse al día con las capacidades en constante avance de los algoritmos de deepfakes. Los sistemas legales y los gobiernos también luchan por mantenerse a la vanguardia en la lucha contra el engaño digital.

Ante estos desafíos, esdent que la tecnología y la legislación por sí solas son insuficientes para abordar esta amenaza inminente.

Preocupaciones por la desinformación política

Uno de los aspectos más alarmantes de los deepfakes es su potencial para fomentar la polarización política. Con casi tres mil millones de personas votando en varios países en los próximos dos años, las campañas de desinformación amenazan con socavar la legitimidad de los gobiernos recién elegidos. 

Deepfakes de figuras prominentes, como la supermodelo palestino-estadounidense Bella Hadid, han sido manipulados para falsificar sus declaraciones políticas, lo que demuestra la capacidad de la tecnología para influir en la opinión pública y distorsionar las narrativas políticas. El uso nefasto de deepfakes queda ejemplificado por casos como el de Greta Thunberg, quien aboga por las "granadas veganas"

Fraude financiero y daños pornográficos

Más allá de la manipulación política, los videos falsos se utilizan para cometer fraudes financieros. Cabe destacar que el popular YouTuber MrBeast fue suplantado en una estafa deepfake en TikTok, lo que resultó en un fraude financiero. Además, la pornografía deepfake es muy preocupante, ya que los rostros de las personas se superponen sin consentimiento sobre contenido explícito. 

Casos como la difusión de imágenes deepfake sexualmente explícitas de Taylor Swift en las redes sociales ponen de relieve la vulnerabilidad a los fraudes y estafas impulsados ​​por inteligencia artificial dirigidos a personas de todas las edades.

Enfoques políticos y tecnológicos

Diversos países y gigantes tecnológicos han implementado políticas y tecnologías para combatir las noticias falsas. Empresas como Meta y Google han exigido a los anunciantes políticos que revelen la manipulación de la IA en sus anuncios.

Además, los investigadores están desarrollando herramientas avanzadas de detección de audio deepfake, y se han promulgado leyes, como la Ley de Responsabilidad por Deepfakes, en Estados Unidos y Canadá. La Unión Europea también ha tomado medidas para abordar la seguridad en línea y la regulación de la IA mediante la Directiva sobre Responsabilidad por la IA.

Estudio de investigación con jóvenes

Para combatir eficazmente la creciente ola de desinformación impulsada por deepfakes y tecnologías de inteligencia artificial, un proyecto de investigación financiado por el Consejo de Investigación en Ciencias Sociales y Humanidades (SSHRC) y Patrimonio Canadiense se centró en empoderar a los jóvenes con capacidad de acción digital. 

El estudio incluyó adentuniversitarios canadienses de entre 18 y 24 años de edad, que participaron en talleres, entrevistas y grupos focales.

A través de experiencias prácticas en la creación de deepfakes, los participantes adquirieron información valiosa sobre la tecnología y su potencial de uso indebido. Inicialmente, percibían los deepfakes como incontrolables, pero progresaron hasta comprender la grave amenaza que representan y desarrollaron un sentido de responsabilidad para prevenir su propagación.

Recomendaciones para el empoderamiento de los jóvenes

En la lucha continua contra la desinformación deepfake, los resultados de investigaciones recientes ofrecen recomendaciones valiosas para tomar medidas eficaces:

La educación desempeña un papel fundamental al integrar la concienciación sobre las falsificaciones profundas en los planes de estudio. Enseñar las consecuencias de la desinformación capacita a losdentpara evaluar críticamente el contenido.

Fomentar el pensamiento crítico es vital. Ofrecer espacios para que los jóvenes cuestionen las normas sociales y educarlos sobre las políticas de redes sociales fomenta un comportamiento responsable en línea.

El conocimiento de la tecnología es crucial. Enseñar a losdenta reconocer los deepfakes revelando el proceso de creación mejora su capacidad para detectar contenido engañoso.

Se fomenta la participación activa. Los jóvenes deben participar en causas significativas, manteniéndose alertas contra la desinformación, y se les debe orientar para que aborden la información falsa de forma constructiva.

Una estrategia multifacética

Para contrarrestar eficazmente la proliferación de deepfakes, se propone una estrategia multifacética. Esta incluye la integración de la educación sobre deepfakes en los planes de estudio, el fomento del pensamiento crítico y la autonomía digital en los jóvenes, y el fomento de una participación activa e informada en la lucha contra los deepfakes maliciosos. 

También se enfatiza un enfoque educativo interdisciplinario, que combina tecnología, psicología, estudios de medios y ética, para comprender completamente las implicaciones de los deepfakes.

El elemento humano en la lucha contra los deepfakes

Esta investigación subraya el papel vital de la educación y el factor humano en la lucha contra las deepfakes. Confiar únicamente en la tecnología y las soluciones legales es insuficiente. Al dotar a las generaciones más jóvenes y a la sociedad en general de las habilidades necesarias para analizar críticamente y combatir la desinformación, podemos fomentar una sociedad digitalmente alfabetizada y resiliente, capaz de resistir el poder manipulador de las noticias falsas.

En última instancia, es esencial educar a las personas sobre sus funciones y su capacidad de acción para salvaguardar la integridad de nuestro mundo digital.