Fantôme dans la machine : les outils de deepfake modifient le paysage politique indien

L'essor de la technologie deepfake à l'approche des élections nationales ouvre un nouveau champ des possibles pour la scène politique indienne. Les partis politiques peuvent utiliser ces outils sophistiqués pour faire revivre leurs dirigeants dans le monde numérique, en créant des clips vidéo et des messages vocaux où la réalité se mêle à la fiction, brouillant ainsi la frontière entre le vrai et le faux.

Inquiétudes croissantes concernant l'intégrité des élections

L'émergence de cette technologie a suscité l'inquiétude des responsables gouvernementaux et des militants, qui considèrent sa prolifération comme une autre menace majeure pour l'intégrité du processus électoral indien.

Et la dernière mode en politique indienne, alors que le pays se prépare à une élection générale marathon de six semaines qui débutera le 19 avril, est le recours aux « apparitions fantômes » de dirigeants décédés pour séduire les électeurs.

Résurrections numériques dans une nouvelle stratégie de campagne

Des personnalités politiques décédées, comme J. Jayalalithaa et M. Karunanidhi, ont été ressuscitées numériquement pour influencer les électeurs. Jayalalithaa est décédée en 2016 ; pourtant, il semblerait qu'elle soit apparue vocalement dans une vidéo critiquant le gouvernement de l'État en place. Quant à Karunanidhi, décédé en 2018, il serait apparu dans des vidéos deepfake générées par intelligence artificielle, faisant l'éloge de son fils, MK Stalin, alors ministre en chef de l'État. Cette tactique créative et économique permet aux partis d'éviter les difficultés logistiques et de toucher leurs sympathisants avec un message ciblé. C'est ce que promettent ces « apparitions fantômes ».

Dilemmes éthiques et désinformation

Le développement rapide de la technologie deepfake a soulevé des dilemmes éthiques et alimenté des campagnes de désinformation. Des créateurs comme Divyendra Jadoun, un deepfaker indien, ont déjà constaté une augmentationdentprécédent de la demande de contenu généré par l'IA et, parallèlement, une certaine inquiétude quant à la possibilité que cette technologie tombe entre de mauvaises mains.

Jadoun reconnaît qu'il est très difficile de distinguer une demande éthique d'une demande contraire à l'éthique. Il souligne qu'un raisonnement très superficiel suffit à prouver la légitimité d'une demande politique fondée sur l'intelligence artificielle.

La menace qui pèse sur la démocratie

Si la plupart des supports de campagne produits par l'intelligence artificielle sont utilisés à des fins satiriques et ridicules, des experts mettent en garde contre leurs implications plus larges pour la démocratie. Joyojeet Pal, spécialiste des technologies et de la démocratie, a mis en garde contre la facilité avec laquelle les images générées par l'IA pourraient être prises pour authentiques. Ceci représente une menace très sérieuse pour la possibilité même de délibérations démocratiques, qui supposent la capacité du public à distinguer le vrai du faux.

Avec l'évolution du paysage politique indien, la technologie des deepfakes, désormais largement répandue, fait peser de nouvelles menaces sur les élections et l'intégrité démocratique. Il incombe à la communauté des acteurs concernés de rester vigilante face à la désinformation et de protéger l'intégrité du processus électoral, en distinguant la réalité de la fiction. À l'approche des élections générales, les contenus générés par l'IA planent comme une menace, soulignant l'urgence de mettre en place des mesures efficaces pour endiguer ce fléau.