- Des faux générés par l'IA se propagent avant les élections népalaises du 5 mars, notamment des vidéos et des audios fabriqués de dirigeants politiques.
- Un bannissement des réseaux sociaux après des manifestations a causé 77 morts et poussé la désinformation dans la clandestinité.
- Les experts appellent à une vérification avant le partage alors que la police se prépare à des attaques sophistiquées par IA.
À l'approche de l'élection anticipée nationale du 5 mars, un faux film mettant en scène trois politiciens népalais de premier plan a révélé comment l'IA est utilisée comme une arme.
La vidéo, entièrement générée par ordinateur, montrait l'ancien maire de Katmandou Balendra Shah, l'ancien responsable du secteur de l'électricité Kulman Ghising et le leader du Parti Rastriya Swatantra Rabi Lamichhane marchant ensemble.
Beaucoup de gens ont pensé qu'une nouvelle alliance politique émergeait lorsque la vidéo est devenue virale sur Internet. Cependant, comme l'ensemble de la rencontre a été générée par ordinateur, les trois politiciens ne se sont jamais réellement rencontrés.
Les falsifications audio se propagent via les réseaux réseaux
La fausse vidéo n'est qu'un exemple du contenu fabriqué par l'IA qui sature désormais les espaces numériques du Népal à l'approche du vote. L'élection a lieu seulement six mois après des manifestations violentes menées par des jeunes exigeant la fin de la corruption. Ces manifestations ont contraint l'ancien premier ministre K.P. Sharma Oli à démissionner et ont plongé le système politique du pays dans le chaos.
Les falsifications numériques ciblant des personnalités connues se sont multipliées à la suite de cette crise de confiance. Le vice-président du Parti Rastriya Swatantra, Swarnim Wagle, a déposé une plainte auprès du Bureau de la Cybercriminalité de la Police Népalaise. Une fausse bande audio a été créée pour donner l'impression qu'il avait eu une discussion avec le premier ministre de l'Inde, ce qui ne s'est jamais produit.
Ces fausses audios posent des risques uniques au Népal, comme l'a démontré les efforts de vérification des faits de Poynter. Les messages vocaux se propagent rapidement dans les groupes de discussion familiaux et sur les réseaux sociaux, atteignant souvent des destinataires incapables d'en confirmer l'authenticité. L'instabilité des outils utilisés pour identifier les audios altérés signifie que les citoyens ordinaires ont des moyens limités de distinguer les mensonges de la vérité.
Les tentatives du gouvernement pour contrôler la situation ont souvent empiré les choses. En raison de leur échec à s'enregistrer auprès des régulateurs, Facebook, X et YouTube ont été bloqués par les autorités pendant les manifestations de septembre.
L'interdiction a déclenché plus de violences au lieu d'apaiser les tensions. Reuters a documenté au moins 77 morts et des milliers de blessés pendant le chaos qui a suivi. Les fonctionnaires ont finalement levé les restrictions, mais l'incident a montré pourquoi le blocage à main lourde ne fonctionne pas. Les fausses informations se sont simplement déplacées vers des canaux plus difficiles à surveiller.
La Commission électorale du Népal a essayé de relever ces défis par la politique. Leur « Politique sur l'utilisation des réseaux sociaux dans la gestion électorale » de 2021 a établi des lignes directrices initiales. Un nouveau projet de code de conduite pour la prochaine élection interdit spécifiquement les fausses informations et les faux comptes destinés à influencer les électeurs.
Cependant, les spécialistes avertissent que ces règles nécessitent des mises à jour immédiates pour l'ère de l'IA générative. Des questions restent sans réponse : Qu'est-ce qui constitue exactement un média synthétique ? Les campagnes devraient-elles divulguer le contenu créé avec l'aide de l'IA ? Qui est tenu responsable lorsque de fausses informations se propagent ?
Les experts appellent à une réponse coordonnée a déclaré
Sans des réglementations parfaites en place, les spécialistes et les groupes de surveillance poussent à des solutions plus larges. Poynter et des organisations médiatiques similaires recommandent plusieurs étapes : les organisations de presse et les vérificateurs de faits devraient enquêter sur chaque vidéo virale comme sur un crime, en retraçant son origine et en démontrant comment ils l'ont vérifiée.
Les partis politiques et les candidats devraient promettre de ne pas utiliser de deepfakes et de bien étiqueter tout matériel créé par l'IA. Les entreprises de médias sociaux devraient établir des équipes de réponse rapide familiarisées avec les langues et la politique du Népal. Les citoyens ordinaires devraient adopter une approche de « triage de dix secondes », s'arrêter, vérifier et confirmer avant de partager des affirmations choquantes.
La Bureau de la Cybercriminalité de la Police Népalaise se prépare déjà à des attaques plus avancées sur le plan technique. SP Ray, un responsable du bureau, a déclaré : « L'IA devient plus importante et est utilisée de plus en plus de façons. Bientôt, nous pourrons voir des crimes et des cyberattaques que l'IA rend plus faciles. »
Ray a également noté que la relative nouveauté de la technologie pourrait offrir une certaine marge de manœuvre. Il croit que la technologie IA est encore à ses balbutiements et n'est que récemment adoptée par le public, il pourrait donc falloir un peu plus de temps pour l'utiliser comme un outil de destruction.
« Nous sommes bien équipés pour combattre ces crimes et menaces, et nous devrions l'être », a déclaré Ray. Il a ajouté pour rassurer : « La Police Népalaise peut enquêter sur n'importe quelle action. La seule chose qui prendra du temps à enquêter, ce sont les attaques provenant de l'étranger. »
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Hania Humayun
Wall Street divisée sur le risque de récession
