La creciente amenaza de la desinformación impulsada por IA en las elecciones globales

A medida que las elecciones se desarrollan en todo el mundo, enfrentan una amenaza evolutiva y formidable por parte de actores extranjeros que emplean un arma potente: la inteligencia artificial. El ámbito de la influencia electoral entró en una nueva fase en 2016, cuando las campañas de desinformación rusas apuntaron a las elecciones presidenciales de EE. UU. a través de las redes sociales. En los años siguientes, países como China e Irán siguieron el ejemplo, utilizando las redes sociales para influir en las elecciones en EE. UU. y en varias partes del mundo. A medida que nos acercamos a 2023 y 2024, la amenaza persiste, pero con un nuevo elemento: la IA generativa y los modelos de lenguaje grandes que tienen el potencial de amplificar el impacto de la desinformación.

El poder de la propaganda impulsada por IA

Las herramientas de IA generativa, ejemplificadas por ChatGPT y el más potente GPT-4, pueden producir grandes cantidades de texto rápidamente y en diversos tonos y perspectivas. Esto las hace únicas para la propaganda de la era de Internet. Si bien las implicaciones exactas de estas tecnologías en las campañas de desinformación siguen siendo inciertas, el mundo está a punto de presenciar su influencia.

La temporada electoral está a punto de barrer el mundo democrático, con muchos países celebrando elecciones nacionales. Estas elecciones tienen una importancia inmensa para los países que anteriormente participaron en operaciones de influencia en redes sociales. Por ejemplo, los intereses de China se extienden a Taiwán, Indonesia, India y numerosas naciones africanas, mientras que Rusia monitorea el Reino Unido, Polonia, Alemania y la Unión Europea. Estados Unidos sigue siendo un punto focal para varios actores. A medida que los costos de la influencia extranjera disminuyen, más países pueden unirse a la arena, especialmente con herramientas como ChatGPT que hacen que la producción de propaganda sea asequible.

Interferencia electoral y el cambio de panorama

En una reciente conferencia a la que asistieron representantes de todas las agencias de ciberseguridad de EE. UU., las discusiones se centraron en las expectativas con respecto a la interferencia electoral en 2024. Más allá de los jugadores habituales como Rusia, China e Irán, surgió una nueva categoría: "actores nacionales". Este cambio es el resultado directo de la reducción de los costos asociados con las campañas de desinformación impulsadas por IA.

Desafíos más allá de la generación de contenido

Si bien la IA facilita la creación de contenido, la distribución sigue siendo el desafío crucial para los propagandistas. Las cuentas falsas desempeñan un papel crucial al publicar y amplificar contenido hasta que se vuelve viral. Empresas como Meta han mejorado su capacidad para identificar y eliminar dichas cuentas, como lo demostró una reciente operación contra una campaña de influencia china. Sin embargo, la desinformación sigue siendo una carrera armamentista. A medida que las plataformas de redes sociales cambian, los medios de propaganda se adaptan, a menudo desplazándose a plataformas de mensajería como Telegram y WhatsApp, lo que dificulta la detección y la eliminación. Controlada por China, TikTok ofrece una plataforma para videos cortos generados por IA, complicando aún más el panorama.

Las herramientas de IA generativa permiten nuevas técnicas de producción y distribución, como la propaganda de bajo nivel a gran escala. Considere las cuentas personales impulsadas por IA en redes sociales que se comportan normalmente, publicando sobre la vida diaria e intereses mientras inyectan ocasionalmente contenido político. Estos "bots de personalidad" tienen una influencia individual mínima, pero pueden tener un impacto significativo cuando se despliegan en grandes números.

Desinformación con esteroides de IA

Las entidades militares detrás de la interferencia electoral, como las de Rusia y China, probablemente están ideando tácticas sofisticadas que van más allá de las estrategias de la era de 2016. Antes de escalar, estos países a menudo prueban ciberataques y operaciones de información en naciones más pequeñas. Reconocer y catalogar estas tácticas temprano es crucial para contrarrestar las nuevas campañas de desinformación.

A medida que las campañas de desinformación impulsadas por IA se vuelven más avanzadas, EE. UU. debe identificar y marcar con huella digital de forma proactiva la propaganda producida por IA en otros países, como Taiwán, donde grabaciones de audio deepfake han difamado a candidatos políticos. Sin una detección y comprensión tempranas, estas campañas pueden pasar desapercibidas hasta que lleguen a las costas nacionales.

La necesidad de investigación y defensa

Si bien algunas elecciones recientes se han celebrado sin problemas significativos de desinformación impulsada por IA, la conciencia temprana y la investigación son esenciales para la preparación. Los investigadores deben estudiar las técnicas empleadas en campañas extranjeras para desarrollar estrategias de defensa efectivas. La comunidad de ciberseguridad reconoce que compartir los métodos de ataque y su efectividad es crucial para construir sistemas de defensa robustos.

La amenaza de la desinformación impulsada por IA en las elecciones está creciendo, lo que requiere un enfoque proactivo e informado. A medida que entramos en esta nueva era de interferencia electoral, los países deben mantenerse vigilantes, fomentar la colaboración internacional y desarrollar mecanismos de defensa capaces de contrarrestar la propaganda impulsada por IA. Cuanto antes entendamos estas tácticas en evolución, mejor podremos proteger la integridad de nuestros procesos democráticos.