Utiliser l'intelligence artificielle pour se protéger contre la propagation de la mésinformation

Le problème omniprésent de la mésinformation en ligne pousse à des solutions innovantes, l'intelligence artificielle (IA) émergeant comme un potentiel changement de jeu. Alors que les deepfakes générés par l'IA augmentent les enjeux pour les arnaques vocales et vidéo, les experts explorent des moyens de tirer parti de l'IA et de la technologie blockchain pour identifier et combattre la propagation des fausses nouvelles. Cette nouvelle approche cherche à prioriser la lutte contre la mésinformation dans les domaines où elle présente le plus grand potentiel de préjudice, visant à autonomiser les créateurs de contenu pour qu'ils traitent efficacement la menace de la mésinformation.

Clarifions la désinformation par rapport à la mésinformation. La mésinformation est une fausse information qui est diffusée, qu'il y ait ou non l'intention de tromper, tandis que la désinformation signifie « fausse information, par exemple sur la force militaire ou les plans d'un pays, diffusée par un gouvernement ou une agence de renseignement dans un acte hostile de subversion politique tactique. » Elle est également utilisée pour signifier « information délibérément trompeuse ou biaisée ; récit ou faits manipulés ; propagande. »

Bien que nous puissions avoir les outils pour résoudre la mésinformation, nous ne sommes peut-être pas en mesure de contrer la désinformation ou d'être accusés de trahison. La désinformation implique un budget militaire gouvernemental, est couverte par un accord de non-divulgation (NDA) et est tenue secrète pour des raisons de sécurité. L'obtention de telles informations pourrait être prise comme de l'espionnage ou une curiosité mal placée qui pourrait coûter votre emploi gouvernemental.

L'impact de la mésinformation et la nécessité de contre-mesures

Les conséquences nuisibles de la mésinformation rendent impératif de trouver des stratégies efficaces pour sa containment. La ligne floue entre les informations réelles et fabriquées, amplifiée par la diffusion rapide des fausses nouvelles sur les plateformes de médias sociaux, peut conduire à des décisions erronées et à des réactions impulsives du public.

Manjeet Rege, directeur du Centre for Applied Artificial Intelligence à l'Université St. Thomas, souligne que des informations précises sont essentielles pour une prise de décision éclairée. Il souligne que la vitesse à laquelle les fausses nouvelles peuvent devenir virales nécessite une action immédiate pour contrer son influence.

Le double rôle de l'IA dans la création et la détection des fausses nouvelles

Des recherches récentes mettent en évidence le potentiel des systèmes d'apprentissage automatique pour évaluer le préjudice potentiel du contenu et identifier les contrevenants les plus flagrants. Par exemple, au plus fort de la pandémie de COVID-19, l'utilisation de l'IA a identifié des instances de fausses nouvelles promouvant des traitements non vérifiés plutôt que des vaccins.

Thi Tran, professeur de systèmes d'information de gestion dirigeant cette recherche, souligne que la menace des fausses nouvelles est la plus préoccupante lorsqu'elle cause un préjudice tangible aux lecteurs ou au public. Identifier les domaines où la mésinformation est susceptible d'être la plus dommageable permet une approche ciblée des efforts d'atténuation.

La sophistication évolutive de l'IA et les dangers des deepfakes

À mesure que la technologie IA devient plus sophistiquée, distinguer le contenu réel du faux devient de plus en plus difficile. Les deepfakes générés par l'IA, qui incluent de l'audio et des vidéos contrefaits, posent de sérieuses menaces. Sameer Hajarnis, directeur des produits de l'entreprise de vérification numérique OneSpan, souligne les dangers des lacs profonds dans les arnaques de phishing vocal et vidéo, notant que les criminels exploitant ces tactiques sont en augmentation.

Un incident notable implique une vidéo deepfake semblant soutenir une opportunité d'investissement par le défenseur éminent de la finance à la consommation Martin Lewis, attribuée à Elon Musk. Cette vidéo, révélée plus tard comme un deepfake généré par l'IA, souligne le pouvoir de l'IA dans la perpétuation de la fraude.

Multiples approches pour lutter contre la mésinformation

Bien que l'approche de l'Université de Binghamton utilise l'apprentissage automatique pour évaluer le préjudice potentiel du contenu, l'IA possède également la capacité de détecter l'authenticité. Certains contenus générés par l'IA peuvent sembler très convaincants pour les humains mais peuvent être facilement identifiés comme faux par les modèles d'IA.

La cryptographie offre une autre voie dans la lutte contre les fausses nouvelles. Yale Fox, un expert en cybersécurité et membre de l'IEEE, suggère d'utiliser la cryptographie pour fournir une preuve de personnalité. L'encodage des vidéos avec des clés publiques permet une vérification facile de l'authenticité. Cette approche élimine le besoin d'algorithmes d'IA complexes et peut s'exécuter sur diverses plateformes et appareils.

Aborder les fausses nouvelles nécessite une approche multifacette, englobant à la fois des solutions technologiques et des changements culturels plus larges. Subramaniam Vincent, directeur du programme de journalisme et d'éthique des médias au Markkula Center for Applied Ethics de l'Université de Santa Clara, souligne le besoin de collaboration entre les acteurs de l'industrie de l'IA et les entreprises de médias d'information. De plus, cultiver les valeurs démocratiques dans la politique et les élections est essentiel pour créer un environnement où les outils d'IA peuvent efficacement contrer la distribution de fausses nouvelles.

L'IA exerce en effet une influence significative, mais elle doit travailler en tandem avec d'autres facteurs pour combattre les défis complexes posés par la mésinformation. Alors que la bataille pour la démocratie fait rage face à la mésinformation, l'IA émerge comme un outil puissant, bien qu'il nécessite une approche globale pour être véritablement efficace.