La tecnología de IA impulsa propaganda sofisticada por grupos terroristas
La tecnología de IA impulsa propaganda sofisticada por grupos terroristas
- El Estado Islámico utiliza inteligencia artificial en su propaganda en línea, incluidos presentadores de noticias falsos y vídeos falsos.
- La IA ha permitido que los extremistas produzcan vídeos de mayor calidad para difundir su agenda.
- Debido a las restricciones legales relativamente laxas sobre la IA, resulta cada vez más difícil para los gobiernos frenar el uso de esta tecnología por parte de organizaciones radicales.
Los partidarios del Estado Islámico, enfrentando importantes reveses militares, están aprovechando cada vez más la inteligencia artificial (IA) para generar propaganda en línea sofisticada. Los expertos informan que los partidarios del EI han podido producir propaganda elaborada, como boletines de noticias creados por IA en diferentes idiomas, utilizando la tecnología.
También lea: Los bots que utilizan IA inundan las redes sociales con desinformación
Un ejemplo claro fue el Estado Islámico de Jorasán (ISKP), una rama del EI activa en Afganistán y Pakistán. Después de un ataque atribuido al EI en la provincia de Bamiyan el 17 de mayo, que mató a cuatro personas, incluidas tres turistas españolas, el ISKP publicó un video de un ancla de noticias de IA. El ancla, hablando pashto, se parecía a la gente local y narró el ataque, mostrando el uso del grupo de IA para hacer el contenido más creíble.
Afiliados del EI despliegan anclas de noticias generadas por IA
Otro video producido por IA fue publicado con un ancla virtual masculino que afirmaba que el EI estaba detrás de un ataque con coche bomba en Kandahar, Afganistán. El experto en ciberseguridad Roland Abi Najem destacó la eficiencia de estos videos deepfake impulsados por IA, añadiendo que el EI ha utilizado producciones de calidad de Hollywood durante años.
“La IA ahora tiene herramientas fáciles de usar para crear contenido falso, ya sea texto, foto, audio o video; solo necesitas datos, algoritmos y poder de cómputo, por lo que cualquiera puede crear contenido generado por IA desde sus casas o garajes.”
Roland Abi Najem
El uso de la IA por parte del EI con fines propagandísticos se inició oficialmente unos días después de un terrible acto de terrorismo en Moscú el 22 de marzo, donde murieron 145 personas. Los expertos señalaron que se utilizó un ancla de noticias de IA para informar sobre este ataque por primera vez y que este grupo recurrió a la difusión de noticias falsas a través de la IA.
Expansión de la influencia extremista a través del contenido de IA
Mona Thakkar, investigadora asociada en el Centro Internacional para el Estudio del Extremismo Violento, dijo que los partidarios del EI utilizan técnicas de generación de personajes.
“Estos esfuerzos han recibido respuestas positivas de otros usuarios, lo que refleja que, a través de esfuerzos colaborativos futuros, muchos partidarios podrían producir videos de propaganda impulsados por IA de alta calidad y sofisticados para el EI, de mayor duración, con mejores gráficos y técnicas de innovación.”
También lea: ¿Cuál es la batalla entre las noticias falsas y la IA en las 2024 elecciones?
Thakkar también señaló que los miembros que promueven al EI en Telegram fomentan el uso de bots generadores de imágenes de IA, ya que producen imágenes de alta calidad para el canal porque estos bots son efectivos y fáciles de usar. Esta práctica es indicativa del creciente uso de la IA como herramienta para mejorar la efectividad y cohesión del extremismo.
La IA permite operaciones de influencia y reclutamiento
Aunque el grupo ha perdido terreno considerable en Siria e Irak, aún emplea la IA para difundir su mensaje de odio y presentar una fachada de fuerza. Como declaró Najem, con la ayuda de la IA, el EI puede crear videos deepfake para influir en celebridades e influencers específicos, principalmente entre los jóvenes, para que se unan a la organización.
También lea: La IA revoluciona los esfuerzos contra el lavado de dinero y el contrterrorismo
El investigador de la Red Global sobre Extremismo y Tecnología, Daniel Siegel, explicó que la IA ha cambiado la naturaleza de las operaciones de influencia en línea de los grupos extremistas.
“El despliegue estratégico de nasheeds (canciones religiosas) deepfake de audio extremista, que presentan personajes animados y personalidades de internet, marca una evolución sofisticada en las tácticas utilizadas por los extremistas para ampliar el alcance de su contenido.”
Siegel también declaró que otras organizaciones terroristas como Al-Qaeda y Hamas también han recurrido a la IA para producir contenido para sus seguidores. Mientras tales organizaciones radicales utilizan la IA para crear contenido profesional, traducido y convincente, las autoridades y las grandes tecnológicas necesitan encontrar formas de contrarrestar estas amenazas.
Reportaje de Cryptopolitan por Brenda Kanana
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
