Ante las inminentes elecciones anticipadas del 5 de marzo, una película falsa protagonizada por tres políticos prominentes de Nepal ha revelado cómo se está utilizando la IA como arma.
El video, que fue generado completamente por computadora, mostraba al ex alcalde de Katmandú Balendra Shah, al ex jefe del sector eléctrico Kulman Ghising y al líder del Partido Rastriya Swatantra, Rabi Lamichhane, caminando juntos.
Mucha gente pensó que estaba surgiendo una nueva alianza política cuando el video se viralizó en internet. Sin embargo, como todo el encuentro fue generado por computadora, los tres políticos nunca llegaron a conocerse.
El vídeo falso es solo un ejemplo del contenido generado por inteligencia artificial que inunda los espacios digitales de Nepal a medida que se acercan las elecciones. Los comicios se celebran apenas seis meses después de las violentas manifestaciones protagonizadas por jóvenes que exigían el fin de la corrupción. Dichas protestas forzaron la dimisión del entonces primer ministro KP Sharma Oli y sumieron al sistema político del país en el caos.
Las falsificaciones digitales dirigidas a personas conocidas han proliferado como resultado de esta crisis de confianza. Eldentdel Partido Rastriya Swatantra, Swarnim Wagle, presentó una denuncia ante la Oficina de Ciberseguridad de la Policía de Nepal. Se grabó una grabación falsa para simular una conversación con el primer ministro de la India, que nunca tuvo lugar.
Estas falsificaciones de audio representan riesgos únicos en Nepal, como lo demuestran los esfuerzos de verificación de datos de Poynter. Los mensajes de voz se propagan rápidamente a través de grupos de chat familiares y redes sociales, llegando a menudo a destinatarios que no pueden confirmar su autenticidad. La poca fiabilidad de las herramientas utilizadas para identificardentalterados implica que la gente común tiene recursos limitados para distinguir entre la verdad y la mentira.
Los intentos del gobierno por controlar el problema han empeorado con frecuencia la situación. Debido a que no se registraron ante los reguladores, Facebook, X y YouTube fueron bloqueados por las autoridades durante las manifestaciones de septiembre.
La prohibición desencadenó más violencia en lugar de calmar las tensiones. Reuters documentó al menos 77 muertes y miles de heridos durante el caos posterior. Las autoridades finalmente levantaron las restricciones, pero eldent demostró por qué el bloqueo drástico no funciona. La información falsa simplemente se filtró a canales más difíciles de monitorear.
La Comisión Electoral de Nepal ha intentado abordar estos desafíos mediante políticas. Su "Política sobre el uso de las redes sociales en la gestión electoral" de 2021 estableció las directrices iniciales. Un nuevo borrador de código de conducta para las próximas elecciones prohíbe específicamente la información falsa y las cuentas falsas destinadas a influir en los votantes.
Sin embargo, los especialistas advierten que estas normas requieren actualizaciones inmediatas para la era de la IA generativa. Siguen sin respuesta preguntas: ¿Qué constituye exactamente los medios sintéticos? ¿Deberían las campañas divulgar contenido creado con asistencia de IA? ¿Quién es responsable de la difusión de información falsa?
Los expertos piden una respuesta
Sin una regulación perfecta, especialistas y grupos de monitoreo impulsan soluciones más amplias. Poynter y organizaciones de medios similares recomiendan varias medidas: las agencias de noticias y los verificadores de datos deberían investigar cada video viral como si fuera un delito, tracsu origen y demostrando cómo lo verificaron.
Los partidos políticos y los candidatos deberían prometer no usar deepfakes y etiquetar claramente cualquier material creado con IA. Las empresas de redes sociales deberían establecer equipos de respuesta rápida familiarizados con los idiomas y la política de Nepal. Los ciudadanos deberían adoptar una estrategia de "triaje de diez segundos", deteniéndose, comprobando y confirmando antes de compartir afirmaciones impactantes.
La Oficina de Delitos Cibernéticos de la Policía de Nepal ya se está preparando para ataques más sofisticados desde el punto de vista técnico. SP Ray, funcionario de la oficina, declaró: “La IA está adquiriendo cada vez más importancia y se utiliza de diversas maneras. Pronto podríamos ver delitos y ciberataques facilitados por la IA .”
Ray también señaló que la relativa novedad de la tecnología podría brindar cierto margen de maniobra. Considera que la tecnología aún está en sus inicios y apenas está siendo adoptada por el público, por lo que podría tomar un poco más de tiempo utilizarla como herramienta de destrucción.
“Estamos bien equipados para combatir estos delitos y amenazas, y así debe ser”, dijo Ray. Añadió, para tranquilizar a la población: “La policía de Nepal puede investigar cualquier acción. Lo único que requerirá tiempo para investigar son los ataques provenientes del extranjero .”
