El mundo se prepara para una vorágine de elecciones en varios países, con al menos 65 programadas en 54 naciones. Se espera que estas elecciones involucren a más de dos mil millones de votantes.
En medio de este auge democrático, crece la preocupación sobre el papel de la inteligencia artificial (IA) en la definición de los resultados electorales . Si bien el posible impacto de la desinformación generada por IA es motivo de preocupación, varios factores mitigan actualmente su influencia.
Desinformación generada por IA: una preocupación creciente
En los últimos años, diversosdenthan puesto de relieve los posibles riesgos de la desinformación generada por IA. Por ejemplo, han circulado en línea un video deepfake deldent ucraniano Volodymyr Zelensky supuestamente declarando la rendición de su país, una foto generada por IA de una explosión en el Pentágono y clips de audio falsos que supuestamente demuestran fraude electoral.
Estos ejemplos ponen de relieve la preocupación de que la IA pueda utilizarse para manipular la percepción pública durante los ciclos electorales.
Un aspecto tranquilizador es el impacto efímero de la mayor parte de la desinformación generada por IA. Estas narrativas falsas fueron rápidamente desmentidas en los casos mencionados y no lograron tracatención de fuentes de noticias fiables. Para ser verdaderamente peligrosa, dicha desinformación debe integrarse en narrativas más amplias y convincentes.
La necesidad de operadores humanos capacitados
Si bien la IA puede generar contenido convincente, carece de la autonomía necesaria para crear, difundir o mantener historias sin operadores humanos cualificados. Estos individuos poseen conocimientos en política, noticias y distribución; su experiencia es esencial para crear y difundir narrativas persuasivas.
Así como muchas campañas políticas humanas fracasan, las impulsadas por IA son susceptibles a fallas sin la guía de personas cualificadas. Sin embargo, debemos permanecer atentos a la continua evolución de las capacidades de la IA.
El panorama mediático contemporáneo está fragmentado, con usuarios dispersos en diversas redes sociales y plataformas. El auge de comunidades nicho en plataformas como Threads, BlueSky y Mastodon, sumado a la diversificación de usuarios de Facebook hacia Instagram y TikTok, restringe aún más el alcance de la desinformación.
Esta fragmentación plantea desafíos a la hora de detectar y explicar dichos fenómenos, pero limita su impacto a rincones más pequeños de Internet.
Protección natural contra la desinformación de la IA
Estos tres factores —la naturaleza efímera de la mayoría de las falsificaciones generadas por IA, la necesidad de alinearse con narrativas más amplias y la fragmentación del panorama informativo— brindan algunas protecciones “naturales” contra el daño potencial de la IA en las elecciones.
Sin embargo, confiar únicamente en estas características no es suficiente. Es imperativo adoptar un enfoque proactivo para salvaguardar la democracia y las elecciones.
Se debe limitar la excesiva personalización tecnológica en las campañas electorales, ya sea mediante IA, redes sociales o publicidad pagada. Si bien los votantes buscan comprender lo que los políticos pueden ofrecer individualmente, también buscan transparencia sobre las políticas que se ofrecen a todos.
Las campañas políticas deberían abstenerse de desplegar miles de agentes de IA para adaptar los mensajes a cada votante, ya que esto podría socavar el proceso democrático.
Garantizar que las personas sean quienes dicen ser es crucial en el ámbito digital. Si bien el anonimato juega un papel importante en la votación, la transparencia sobre lasdenten línea es esencial en materia electoral.
La confianza es primordial, y los ciudadanos deben tener los medios para verificar la autenticidad de las voces en línea. El contenido generado por IA no debe utilizarse para engañar ni ocultardent.
Como canales principales de difusión de información, las plataformas de redes sociales deben contribuir activamente a combatir la desinformación generada por IA. Si bien no todas las plataformas pueden convertirse en actores importantes de la IA generativa, siguen desempeñando un papel vital en la configuración del discurso público. Estas plataformas deben ayudar a los usuarios adentel contenido generado por IA, supervisar y prevenir la manipulación a gran escala de cuentas y comentarios, frenar el acoso coordinado por IA y facilitar la investigación y las auditorías de sus sistemas.
Para afrontar la amenaza que representa la desinformación generada por la IA, la sociedad debe adoptar una postura colectiva a favor de la democracia. La desinformación suele surgir de figuras influyentes, lo que contribuye a la polarización y la fragmentación.
A medida que los líderes dan ejemplo, la sociedad sigue su ejemplo. Por lo tanto, es crucial establecer estándares más altos y denunciar inequívocamente a los políticos y las campañas que explotan la IA para engañar a la ciudadanía.
