Les chatbots IA propagent la désinformation électorale, révèle une étude

Une récente enquête a mis au jour une tendance inquiétante de chatbots IA diffusant des informations fausses et trompeuses concernant l'élection de 2024. Cette révélation provient d'une étude collaborative menée par les AI Democracy Projects et Proof News, une organisation médiatique à but non lucratif. Les résultats soulignent la nécessité urgente d'une supervision réglementaire alors que l'IA continue de jouer un rôle significatif dans le discours politique.

La désinformation à un moment critique

L'étude souligne que ces inexactitudes générées par l'IA émergent pendant la période cruciale des primaires présidentielles aux États-Unis. Avec un nombre croissant de personnes se tournant vers l'IA pour obtenir des informations liées à l'élection, la propagation de données incorrectes est particulièrement préoccupante. La recherche a testé divers modèles d'IA, notamment ChatGPT-4 d'OpenAI, Llama 2 de Meta, Claude d'Anthropic, Gemini de Google et Mixtral de Mistral, une entreprise française. Ces plateformes ont été trouvées en train de fournir aux électeurs des lieux de vote incorrects, des méthodes de vote illégales et des dates limites d'inscription fausses, parmi d'autres désinformations.

Un exemple alarmant cité était l'affirmation de Llama 2 selon laquelle les électeurs de Californie pourraient voter par message texte, une méthode illégale aux États-Unis. De plus, aucun des modèles d'IA testés n'a correctement identifié l'interdiction des tenues portant des logos de campagne, tels que les chapeaux MAGA, dans les bureaux de vote du Texas. Cette large diffusion de fausses informations a le potentiel de tromper les électeurs et de saper le processus électoral.

Réponse de l'industrie et préoccupation du public

La propagation de la désinformation par l'IA a suscité une réponse tant de l'industrie technologique que du public. Certaines entreprises technologiques ont reconnu les erreurs et se sont engagées à les corriger. Par exemple, Anthropic prévoit de publier une version mise à jour de son outil d'IA avec des informations électorales précises. OpenAI a également exprimé son intention d'affiner continuellement son approche en fonction de l'évolution des façons dont ses outils sont utilisés. Cependant, la réponse de Meta, qualifiant les résultats de « sans importance », a suscité la controverse, soulevant des questions sur l'engagement de l'industrie technologique à enrayer la désinformation.

La préoccupation du public grandit également. Une enquête du Associated Press-NORC Center for Public Affairs Research et de l'École de politique publique Harris de l'Université de Chicago révèle une peur généralisée que les outils d'IA contribuent à la propagation de fausses et trompeuses informations pendant l'année électorale. Cette préoccupation est amplifiée par des incidents récents, tels que la génération par l'IA Gemini de Google d'images historiquement inexactes et insensibles sur le plan racial.

L'appel à la réglementation et à la responsabilité

Les résultats de l'étude soulignent la nécessité urgente d'une action législative pour réglementer l'utilisation de l'IA dans les contextes politiques. Actuellement, l'absence de lois spécifiques régissant l'IA en politique laisse les entreprises technologiques s'auto-réglementer, une situation qui a conduit à des lacunes significatives dans l'exactitude des informations. Environ deux semaines avant la publication de l'étude, les entreprises technologiques ont volontairement convenu d'adopter des précautions pour empêcher leurs outils de générer du contenu réaliste qui désinforme les électeurs sur les procédures de vote légales. Cependant, les erreurs et les faussetés récentes jettent le doute sur l'efficacité de ces mesures volontaires.

Alors que l'IA continue de s'intégrer dans tous les aspects de la vie quotidienne, y compris dans la sphère politique, le besoin de réglementations complètes et applicables devient de plus en plus évident. Ces réglementations devraient viser à garantir que le contenu généré par l'IA est précis, surtout lorsqu'il concerne des processus démocratiques critiques comme les élections. Ce n'est que par une combinaison de responsabilité de l'industrie et de supervision réglementaire que la confiance du public dans l'IA en tant que source d'information peut être restaurée et maintenue.

L'étude récente sur les chatbots IA propageant des mensonges électoraux sert de réveil aux dangers potentiels d'une IA non réglementée dans le domaine politique. Alors que les entreprises technologiques s'efforcent de résoudre ces problèmes, le rôle de la supervision gouvernementale ne doit pas être sous-estimé. Garantir l'intégrité des informations liées aux élections est primordial pour défendre les valeurs et les processus démocratiques.