Le chatbot de Microsoft soulève des inquiétudes quant à l'exactitude des informations électorales

Microsoft, en tant que joueur majeur de l'industrie technologique, a été activement impliqué dans la résolution de ces préoccupations. L'entreprise a pris des mesures pour lutter contre la désinformation et renforcer l'intégrité des plateformes numériques. Les initiatives de Microsoft incluent le développement et le déploiement d'outils et de technologies d'IA avancés pour détecter et atténuer la propagation d'informations trompeuses ou fausses.

Une étude révèle des inexactitudes alarmantes dans le chatbot de Microsoft

Une étude récente menée par les ONG européennes Algorithm Watch et AI Forensics a mis en lumière les risques potentiels associés au chatbot de Microsoft, alimenté par le GPT-4 d'OpenAI. L'étude s'est concentrée sur les réponses du chatbot à des questions liées aux élections en Allemagne et en Suisse. Les résultats ont révélé que le chatbot fournissait des réponses incorrectes à un tiers des questions posées.

Alors que les préoccupations se concentrent souvent sur les acteurs malveillants qui propagent intentionnellement de la désinformation, l'étude souligne que les chatbots à usage général peuvent présenter une menace égale pour l'écosystème de l'information. Salvatore Romano, chercheur principal chez AI Forensics, a souligné : « Notre recherche montre que les acteurs malveillants ne sont pas la seule source de désinformation ; les chatbots à usage général peuvent être tout aussi menaçants pour l'écosystème de l'information. »

Le chatbot de Microsoft : une source d'erreurs factuelles trompeuses

Les erreurs identifiées dans l'étude variaient de dates électorales incorrectes et d'informations obsolètes sur les candidats à des controverses entièrement fabriquées entourant les candidats. Notamment, le chatbot a attribué de fausses informations à des sources réputées qui possédaient en réalité des informations précises sur les sujets. Le chatbot IA a également été trouvé inventant des histoires sur des candidats engageant un comportement scandaleux, contribuant davantage à la propagation d'informations trompeuses.

Après avoir été informé des résultats de l'étude, Microsoft a exprimé son engagement à résoudre les problèmes soulevés. Cependant, des échantillons collectés un mois plus tard ont donné des résultats similaires, indiquant des défis persistants pour garantir l'exactitude des informations fournies par le chatbot. Le bureau de presse de Microsoft n'a pas fourni de commentaire pour cet article, mais un porte-parole de l'entreprise a informé le Wall Street Journal que des efforts étaient en cours pour préparer leurs outils pour les élections de 2024.

L'appel à des changements structurels

Riccardo Angius, responsable des mathématiques appliquées et chercheur chez AI Forensics, a remis en question la caractérisation des inexactitudes comme de simples « hallucinations », déclarant : « Il est temps que nous discréditons le fait de qualifier ces erreurs d'« hallucinations ». Notre recherche expose l'occurrence beaucoup plus complexe et structurelle d'erreurs factuelles trompeuses dans les LLM et chatbots à usage général. »

L'assurance de Microsoft et la prudence des utilisateurs

Bien que Microsoft reconnaisse la nécessité de résoudre les problèmes identifiés, les utilisateurs sont exhortés à exercer leur « meilleur jugement » lors de l'examen des résultats générés par le chatbot IA. Le géant de la technologie souligne ses efforts continus pour améliorer les performances de ses outils pour les prochaines élections de 2024. Cependant, l'étude souligne l'importance d'un examen vigilant des utilisateurs face à la désinformation potentielle.

Le monde entre dans une période critique de prise de décision démocratique, l'intersection de l'IA générative et des élections soulève des préoccupations vitales. Le chatbot de Microsoft, un acteur prominent dans ce paysage, fait l'objet d'un examen pour son rôle dans la diffusion d'informations inexactes. Les révélations de l'étude incitent à une réévaluation de la façon dont les technologies IA sont intégrées dans les processus démocratiques, soulignant la nécessité d'améliorations continues pour garantir l'intégrité des informations liées aux élections.