Desinformación generada por IA: se revela la campaña encubierta de Pekín para manipular las elecciones de Taiwán

En una revelación que arroja luz sobre el lado oscuro de la interferencia electoral digital, el Instituto Australiano de Política Estratégica (ASPI) ha descubierto una campaña encubierta orquestada por el Partido Comunista Chino (PCCh) para manipular las recientes elecciones de Taiwán mediante desinformación generada por IA. Las tácticas insidiosas empleadas incluyeron el uso de avatares generados por IA, documentos filtrados y pruebas de paternidad falsas, lo que genera preocupación sobre el posible impacto global de estas campañas de desinformación.

Se revela una campaña encubierta china

La investigación de ASPI expuso las actividades nefastas de Spamouflage, una red vinculada al PCCh, que utilizaba avatares generados por IA en plataformas como X/Twitter, Facebook, Medium y blogs taiwaneses. Estas cuentas atacaban a candidatos del Partido Democrático Progresista (PPD), acusándolos de corrupción y malversación de fondos para influir en la opinión pública. La conexión de la red con las fuerzas del orden y organismos gubernamentales chinos complicó aún más la situación.

Un segundo actor de amenazas,denten el informe del tercer trimestre de 2023 de Meta, participó en sofisticadas operaciones de ciberinfluencia. Este actor difundió supuestos documentos filtrados del gobierno taiwanés y una prueba de paternidad de ADN falsa que involucraba al candidatodentdel PPD, Lai Ching-te. La complejidad de estas campañas, incluido el uso de contenido generado por IA, marcó un avance preocupante en las operaciones de influencia de China.

El informe de ASPI destaca las consecuencias de gran alcance de las campañas de desinformación de China impulsadas por inteligencia artificial, que trascienden las fronteras de Taiwán. Cabe destacar que la red Spamouflage, además de ejercer influencia en Taiwán, ha sidodentpor difundir contenido que denigra al Partido Bharatiya Janata (BJP) y al gobierno indio, con especial atención a la región de Manipur en India. Esta revelación revela un modelo plausible de posible interferencia del Partido Comunista Chino (PCCh) en las próximas elecciones a escala global.

Unidad democrática frente a la desinformación generada por IA

El informe enfatiza la responsabilidad de plataformas como X/Twitter de garantizar la seguridad en línea durante las elecciones, citando deficiencias en la suspensión de cuentas asociadas con redes coordinadas de comportamiento inauténtico con sede en China. También insta a las empresas occidentales de IA generativa, como Synthesia y D-ID, a actuar con la debida diligencia y transparencia para prevenir el uso indebido de sus productos, e insta a OpenAI a seguir el ejemplo de las plataformas de redes sociales en la publicación de informes sobre amenazas de uso indebido.

Las conclusiones del informe ofrecen una postura cautelosa, alertando sobre las inversiones extranjeras en la floreciente industria china de IA. El informe aboga por una reevaluación por parte de los gobiernos y corporaciones occidentales de su participación en este sector. El potencial inherente de doble uso de los productos de IA, especialmente en el ámbito de las operaciones de guerra política, exige un fuerte escrutinio y, potencialmente, la imposición de responsabilidades legales a las empresas de IA que puedan facilitar inadvertidamente la interferencia electoral.

Mientras las democracias se preparan para las próximas elecciones, el informe de ASPI insta a fortalecer los lazos con Taiwán y a adoptar un frente unido contra la desinformación. Compartir información sobre las amenazas del PCCh, investigar las cuentas en redes sociales que atacan a múltiples regiones y colaborar en las iniciativas contra la desinformación podrían fortalecer las defensas democráticas.

En un mundo cada vez más dependiente de las plataformas digitales, la revelación de las sofisticadas campañas de desinformación generadas por IA en China sirve como un duro recordatorio de los desafíos que enfrentan las democracias para preservar la integridad de sus procesos electorales. La responsabilidad no solo recae en los gobiernos, sino también en las empresas tecnológicas y la comunidad global en general, de combatir colectivamente esta amenaza en constante evolución.