Les hallucinations générées par l'IA : un problème de santé croissant en 2023
- En 2023, les hallucinations générées par l'IA se propagent rapidement en diffusant de fausses informations, ce qui représente un défi majeur.
- L'IA, illustrée par le chatbot Tay de Microsoft, peut imiter des comportements humains nuisibles, amplifiant ainsi les préoccupations.
- La désinformation liée à l'IA menace la santé et déforme la réalité, incitant les experts à alerter sur une crise de l'information pilotée par l'IA.
La prolifération de l'intelligence artificielle (IA) a engendré un phénomène inquiétant : les hallucinations générées par l'IA. Le terme « halluciner » a pris une nouvelle signification alarmante à l'ère numérique, car les systèmes d'IA peuvent produire des informations fausses qui ont un impact sur les individus et la société. En 2023, cette tendance a attiré une attention considérable, amenant Dictionary.com à nommer « hallucinate » (halluciner) son Mot de l'Année.
Le 2023 mot de l'année de Dictionary.com
La décision de Dictionary.com de désigner « hallucinate » comme son Mot de l'Année témoigne de la montée en puissance de la désinformation générée par l'IA. Ce choix reflète une augmentation de 46 % des recherches de dictionnaire pour le mot « hallucinate » entre 2022 et 2023, couplée à une augmentation similaire des recherches pour « hallucination ». Cependant, la force motrice derrière cette augmentation n'est pas la définition traditionnelle du mot, mais plutôt une interprétation spécifique à l'IA :
Hallucinate [ huh-loo-suh-neyt ] -verbe- (de l'intelligence artificielle) produire des informations fausses contraires à l'intention de l'utilisateur et les présenter comme vraies et factuelles. Exemple : Lorsque les chatbots hallucinent, le résultat est souvent non seulement inexact, mais complètement fabriqué.
La capacité de l'IA à tromper
Le potentiel de l'IA à tromper est une préoccupation croissante. Bien que tous les systèmes d'IA n'adoptent pas ce comportement, certains peuvent être programmés pour imiter les caractéristiques humaines, servant de porte-parole politiques ou diffusant de fausses informations tout en se faisant passer pour des diffuseurs de faits. Sa vitesse inégalée à produire de la désinformation et de la désinformation distingue l'IA des humains.
Une étude récente publiée dans JAMA Internal Medicine a souligné l'ampleur de ce problème. L'étude a démontré comment le GPT Playground d'OpenAI a généré plus de 17 000 mots de désinformation sur les vaccins et le vapotage en seulement 65 minutes. De plus, les outils d'IA générative ont créé 20 images réalistes pour accompagner les fausses récits en moins de 2 minutes. Cette génération rapide de contenu trompeur remet en question la capacité des individus à discerner le vrai du faux.
Les conséquences involontaires de la désinformation par l'IA
Même lorsque les systèmes d'IA n'ont pas l'intention de tromper, ils peuvent involontairement produire des informations trompeuses. Une étude menée lors de la réunion clinique annuelle de la Midyear Clinical Meeting de l'American Society of Health-System Pharmacists a mis en évidence les limites de l'IA dans le domaine médical. ChatGPT, interrogé sur 39 questions liées aux médicaments, n'a fourni des réponses satisfaisantes que pour 10 d'entre elles. Par exemple, il a affirmé à tort que la combinaison de Paxlovid, un médicament antiviral contre la COVID-19, et de vérapamil, un médicament contre la tension artérielle, n'avait aucune interaction, contredisant les connaissances médicales établies.
La capacité de l'IA à générer de la désinformation s'étend au-delà du secteur de la santé. Certains outils d'IA ont été observés en train d'interpréter incorrectement des images, confondant fréquemment divers objets avec des oiseaux. Un exemple tiré de The Economist a révélé la réponse d'une IA à une requête concernant le transport du Golden Gate Bridge en Égypte en 2016, illustrant l'incapacité de l'IA à distinguer le vrai du faux.
L'incident du chatbot Tay d'Microsoft en 2021 souligne davantage le potentiel de l'IA à générer du contenu nuisible. En l'espace de 24 heures après son arrivée sur Twitter, le chatbot a commencé à publier des tweets racistes, misogyne et faux, incitant Microsoft à le retirer rapidement de la plateforme. Cet épisode met en lumière la propension de l'IA à imiter les comportements humains négatifs, soulevant des questions sur les considérations éthiques dans le développement et le déploiement de l'IA.
Un véritable problème de santé
Les hallucinations générées par l'IA, comme leurs équivalents humains, posent un véritable problème de santé. Au-delà des implications immédiates de la désinformation, elles peuvent affecter négativement le bien-être mental et émotionnel. Une pluie constante d'hallucinations générées par l'IA peut éroder le sens de la réalité d'un individu, conduisant à la confusion et à l'anxiété.
Conscients de la gravité de ce problème, des organisations telles que l'Organisation mondiale de la Santé et l'American Medical Association ont publié des mises en garde contre les dangers potentiels de la désinformation et de la désinformation générées par l'IA. Bien que la sélection par Dictionary.com de « hallucinate » comme son Mot de l'Année 2023 soit emblématique du problème, relever les défis complexes posés par les hallucinations générées par l'IA nécessite une vigilance continue et des efforts concertés pour promouvoir un développement responsable de l'IA.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
