La tecnología de inteligencia artificial impulsa la propaganda sofisticada de grupos terroristas

Los partidarios del Estado Islámico, que se enfrentan a importantes reveses militares, utilizan cada vez más la inteligencia artificial (IA) para generar sofisticada propaganda en línea. Los expertos informan que han logrado producir propaganda elaborada, como boletines informativos creados con IA en diferentes idiomas, utilizando esta tecnología.

Lea también: Los bots que utilizan IA inundan las redes sociales con desinformación

Un ejemplo ilustrativo fue el Estado Islámico Khorasan (ISKP), una rama del EI activa en Afganistán y Pakistán. Tras un atentado reivindicado por el EI en la provincia de Bamiyán el 17 de mayo, en el que murieron cuatro personas, entre ellas tres turistas españoles, el ISKP publicó un vídeo de un presentador de noticias con inteligencia artificial. El presentador, hablando pastún, se parecía a los lugareños y narró el ataque, mostrando el uso de la inteligencia artificial por parte del grupo para hacer el contenido más creíble.

Los afiliados del EI despliegan presentadores de noticias generados por IA

Se publicó otro video producido con IA, con un presentador virtual masculino que afirmaba que el EI estaba detrás de un atentado con coche bomba en Kandahar, Afganistán. El experto en ciberseguridad Roland Abi Najem destacó la eficacia de estos videos deepfake generados con IA, añadiendo que el EI lleva años utilizando producciones con calidad de Hollywood.

“La IA ahora tiene herramientas fáciles de usar para crear contenido falso, ya sea texto, foto, audio o video. Solo se necesitan datos, algoritmos y potencia informática, por lo que cualquiera puede crear contenido generado por IA desde su casa o garaje”

Roland Abi Najem

El uso de IA por parte del EI con fines propagandísticos se inició oficialmente pocos días después del terrible atentado terrorista perpetrado en Moscú el 22 de marzo, en el que murieron 145 personas. Los expertos señalaron que un presentador de noticias con IA fue el primero en informar sobre este ataque y que el grupo recurrió a la difusión de noticias falsas mediante IA.

Expansión de la influencia extremista mediante contenido de IA

Mona Thakkar, investigadora del Centro Internacional para el Estudio del Extremismo Violento, dijo que los partidarios del EI utilizan técnicas de generación de caracteres.

“Estos esfuerzos han generado respuestas positivas de otros usuarios, lo que refleja que, a través de futuras colaboraciones, muchos seguidores podrían producir videos de propaganda de alta calidad y sofisticados, impulsados ​​por IA, para EI, de mayor duración, con mejores gráficos y técnicas más innovadoras”

Lea también: ¿En qué consiste la batalla entre las noticias falsas y la inteligencia artificial en las elecciones de 2024?

Thakkar también señaló que los miembros que promueven al EI en Telegram fomentan el uso de bots generadores de imágenes con IA, ya que producen imágenes de alta calidad para el canal gracias a su eficacia y facilidad de uso. Esta práctica es indicativa del creciente uso de la IA como herramienta para mejorar la eficacia y la cohesión del extremismo.

La IA permite operaciones de influencia y reclutamiento

Aunque el grupo ha perdido terreno considerablemente en Siria e Irak, aún emplea la IA para difundir su mensaje de odio y presentar una fachada de fuerza. Como afirmó Najem, con la ayuda de la IA, el EI puede crear vídeos deepfake para convencer a celebridades e influencers, principalmente jóvenes, de unirse a la organización.

Lea también: La IA revoluciona las iniciativas contra el blanqueo de capitales y el terrorismo

Daniel Siegel, investigador de la Red Global sobre Extremismo y Tecnología, explicó que la IA ha cambiado la naturaleza de las operaciones de influencia en línea de los grupos extremistas.

“El despliegue estratégico de deepfakes de audio extremistas, con personajes animados y personalidades de internet, marca una evolución sofisticada en las tácticas utilizadas por los extremistas para ampliar el alcance de su contenido”

Siegel también afirmó que otras organizaciones terroristas como Al Qaeda y Hamás también han recurrido a la IA para producir contenido para sus seguidores. Si bien estas organizaciones radicales utilizan la IA para crear contenido profesional, traducido y convincente, las autoridades y los gigantes tecnológicos deben encontrar maneras de contrarrestar estas amenazas.

Cryptopolitan de Brenda Kanana