Los deepfakes de IA amenazan las próximas elecciones de marzo 5de Nepal

Ante la inminente elección anticipada del país el 5 de marzo, una película falsa que presenta a tres prominentes políticos nepaleses ha revelado cómo se está utilizando la IA como un arma.

El video, generado completamente por computadora, mostraba al exalcalde de Katmandú, Balendra Shah, al exdirector del sector eléctrico, Kulman Ghising, y al líder del Partido Rastriya Swatantra, Rabi Lamichhane, caminando juntos.

Muchas personas pensaron que estaba emergiendo una nueva alianza política cuando el video se volvió viral en internet. Sin embargo, como todo el encuentro fue generado por computadora, los tres políticos nunca se reunieron realmente.

Falsificaciones de audio se propagan a través de las redes sociales redes más activas

El video falso representa solo un ejemplo del contenido fabricado por IA que ahora satura los espacios digitales de Nepal a medida que se acerca la votación. Las elecciones tienen lugar meramenteseis meses después de violentas manifestaciones lideradas por jóvenes que exigían el fin de la corrupción. Esas protestas derrocaron al entonces primer ministro K.P. Sharma Oli y dejaron al sistema político de la nación en caos.

Las falsificaciones digitales dirigidas a personas conocidas han florecido como resultado de esta crisis de confianza. El vicepresidente del Partido Rastriya Swatantra, Swarnim Wagle, ha presentado una denuncia ante el Cuerpo de Ciberpolicía de Nepal. Se creó una cinta de audio falsa para dar la impresión de que tenía una conversación con el primer ministro de la India, lo cual nunca ocurrió.

Estas falsificaciones de audio plantean riesgos únicos en Nepal, como lo demostraron los esfuerzos de verificación de hechos de Poynter. Los mensajes de voz viajan rápidamente a través de grupos de chat familiares y redes sociales, a menudo llegando a receptores que no pueden confirmar su legitimidad. La falta de fiabilidad de las herramientas utilizadas para identificar audio alterado significa que las personas comunes tienen medios limitados para distinguir entre falsedades y la verdad.

Los intentos del gobierno por controlar el problema a menudo han empeorado las cosas. Debido a su falta de registro ante los reguladores, Facebook, X y YouTube fueron bloqueados por las autoridades durante las protestas de septiembre.

La prohibición provocó más violencia en lugar de calmar las tensiones. Reuters documentó al menos 77 muertes y miles de heridos durante el caos que siguió. Los funcionarios finalmente levantaron las restricciones, pero el incidente mostró por qué los bloqueos contundentes no funcionan. La desinformación simplemente se trasladó a canales más difíciles de monitorear.

La Comisión Electoral de Nepal ha intentado abordar estos desafíos a través de políticas. Su "Política sobre el uso de las redes sociales en la gestión electoral" de 2021 estableció directrices iniciales. Un nuevo proyecto de código de conducta para las próximas elecciones prohíbe específicamente la desinformación y las cuentas falsas destinadas a influir en los votantes.

Sin embargo, los especialistas advierten que estas normas necesitan actualizaciones inmediatas para la era de la IA generativa. Quedan preguntas sin respuesta: ¿Qué constituye exactamente los medios sintéticos? ¿Deben las campañas revelar el contenido creado con asistencia de IA? ¿Quién es responsable cuando se difunde información falsa?

Los expertos piden una respuesta coordinada respuesta

Sin regulaciones perfectas en su lugar, los especialistas y los grupos de monitoreo están impulsando soluciones más amplias. Poynter y organizaciones de medios similares recomiendan varios pasos: las organizaciones de noticias y los verificadores de hechos deben investigar cada video viral como si fuera un crimen, rastreando su origen y demostrando cómo lo verificaron.

Los partidos políticos y los candidatos deben prometer no utilizar deepfakes y etiquetar claramente cualquier material creado con IA. Las empresas de redes sociales deben establecer equipos de respuesta rápida familiarizados con los idiomas y la política de Nepal. Los ciudadanos comunes deben adoptar un enfoque de "triage de diez segundos", deteniéndose, verificando y confirmando antes de compartir afirmaciones impactantes.

El Cuerpo de Ciberpolicía de Nepal ya se está preparando para ataques más avanzados en el ámbito técnico. SP Ray, un funcionario del cuerpo, declaró: "La IA está creciendo y se está utilizando de más formas. Pronto podríamos ver delitos y ciberataques que la IA hace más fáciles."

Ray también señaló que la relativa novedad de la tecnología podría proporcionar cierto margen de maniobra. Cree que la tecnología de IA aún está en pañales y solo está siendo adoptada por el público, por lo que puede tardar un poco más en utilizarse como una herramienta de destrucción.

"Estamos bien equipados para combatir estos delitos y amenazas, y así debería ser", dijo Ray. Añadió un mensaje de tranquilidad: "La Policía de Nepal puede investigar cualquier acción. Lo único que tardará más en investigarse son los ataques desde territorios extranjeros."