Le mot de l’année du Cambridge Dictionary, « Hallucinate », met en lumière le gros problème de l’IA

Dans un changement notable du paysage de l’intelligence artificielle (IA), le Cambridge Dictionary a choisi « hallucinate » comme mot de l’année. Cette sélection reflète un développement significatif dans la compréhension de ce terme dans le domaine de l’IA. Bien que traditionnellement associé à la perception de phénomènes inexistants, « hallucinate » englobe désormais les cas où les systèmes d’IA présentent erronément des données inexactes comme factuelles, entraînant parfois des conséquences néfastes.

Inexactitudes de l’IA sur les plateformes majeures

Des plateformes technologiques majeures comme Gizmodo, CNET et Microsoft ont été mises en cause pour des inexactitudes dans les articles produits par l’IA. Cela soulève des préoccupations quant à la fiabilité du contenu généré par des systèmes pilotés par l’IA. Dans un cas particulièrement alarmant, un professionnel du droit a perdu son emploi lorsqu’un chatbot basé sur l’IA, ChatGPT, a créé des procès fictifs en tant que références. Plus tôt cette année, des analystes de Morgan Stanley ont souligné la propension de ChatGPT à fabriquer des faits, un problème qu’ils prévoient persister pendant des années. Ces incidents ont soulevé des alertes parmi les dirigeants d’entreprise et les experts en désinformation concernant le potentiel de l’IA à amplifier la désinformation en ligne.

L’importance de la pensée critique

Wendalyn Nichols, responsable de la publication au Cambridge Dictionary, a souligné le rôle crucial de la pensée critique humaine lors de l’utilisation des outils d’IA. Elle met en évidence que le fait que les IA puissent « halluciner » sert de rappel que les humains doivent exercer leurs compétences de pensée critique lorsqu’ils s’appuient sur ces outils. Cela souligne la nécessité pour les utilisateurs d’aborder le contenu généré par l’IA avec un regard discernant.

Reconnaissance par l’industrie de l’IA

Le terme « hallucinate » a gagné en importance dans les discussions au sein de l’industrie de l’IA depuis le lancement de la technologie de chatbot révolutionnaire d’OpenAI, ChatGPT, en avril 2023. Sundar Pichai, PDG d’Alphabet Inc., a reconnu que l’industrie de l’IA fait face à des « problèmes d’hallucination » pour lesquels il n’existe pas de solution immédiate et claire. Cette reconnaissance d’une figure de proue du monde technologique souligne la gravité du problème.

La contribution de Vectara à une IA responsable

Dans une étape significative vers l'auto-régulation et la promotion d'une IA responsable, le créateur de modèles de langage large (LLM) Vectara a présenté son modèle open-source d'évaluation des hallucinations en novembre 2023. Ce modèle innovant évalue dans quelle mesure un LLM s'écarte des informations factuelles. En quantifiant ces écarts, Vectara vise à surmonter les obstacles à l'adoption généralisée de l'IA dans les entreprises et à atténuer les risques associés à la désinformation.

Le choix du mot « halluciner » comme Mot de l'Année par le Cambridge Dictionary met en lumière un problème critique au sein de l'industrie de l'IA. Les inexactitudes et le potentiel de l'IA à générer de fausses informations ont suscité des inquiétudes parmi les experts et le public. Alors que l'industrie de l'IA fait face à ces « problèmes d'hallucination », le besoin d'un développement responsable de l'IA et d'une pensée critique vigilante lors de l'utilisation d'outils d'IA n'a jamais été aussi évident. Le modèle d'évaluation des hallucinations de Vectara représente une avancée majeure pour relever ces défis et s'assurer que l'IA serve de force positive plutôt que d'amplifier la désinformation à l'ère numérique.