Le mot de l'année du dictionnaire de Cambridge, « halluciner », met en lumière un problème majeur de l'IA

Dans un changement notable au sein du paysage de l'intelligence artificielle (IA), le dictionnaire de Cambridge a choisi « halluciner » comme mot de l'année. Ce choix témoigne d'une évolution significative dans la compréhension de ce terme au sein du domaine de l'IA. Traditionnellement associé à la perception de phénomènes inexistants, « halluciner » englobe désormais les cas où les systèmes d'IA présentent par erreur des données inexactes comme étant factuelles, ce qui peut parfois avoir des conséquences néfastes.

Inexactitudes de l'IA sur des plateformes importantes

Des plateformes technologiques de premier plan comme Gizmodo, CNET et Microsoft ont été pointées du doigt pour des inexactitudes dans des articles produits par l'IA. Cela soulève des inquiétudes quant à la fiabilité des contenus générés par les systèmes pilotés par l'IA. Dans un cas particulièrement alarmant, un juriste a perdu son emploi lorsqu'un chatbot basé sur l'IA, ChatGPT, a créé de fausses poursuites judiciaires à titre de références. Plus tôt cette année, les analystes de Morgan Stanley ont souligné la propension de ChatGPT à falsifier des faits, un problème qui, selon eux, persistera pendant des années. Cesdentont tiré la sonnette d'alarme parmi les chefs d'entreprise et les experts en désinformation quant au potentiel de l'IA à amplifier la désinformation en ligne.

L'importance de la pensée critique

Wendalyn Nichols, directrice éditoriale du Cambridge Dictionary, a souligné le rôle crucial de l'esprit critique humain dans l'utilisation des outils d'IA. Elle fait remarquer que la capacité des IA à « halluciner » nous rappelle l'importance d'exercer notre esprit critique lorsque nous nous fions à ces outils. Cela souligne la nécessité pour les utilisateurs d'aborder les contenus générés par l'IA avec discernement.

reconnaissance de l'industrie de l'IA

Le terme « hallucination » a pris une place prépondérante dans les discussions au sein de l'industrie de l'IA depuis le lancement, en avril 2023, de ChatGPT, la technologie de chatbot révolutionnaire d'OpenAI. Sundar Pichai, PDG d'Alphabet Inc., a reconnu que l'industrie de l'IA est confrontée à des « problèmes d'hallucination » pour lesquels il n'existe pas de solution simple et immédiate. Cette reconnaissance, de la part d'une figure de proue du monde technologique, souligne la gravité du problème.

La contribution de Vectara à une IA responsable

En novembre 2023, Vectara, concepteur de modèles de langage complexes (LLM), a franchi une étape importante vers l'autorégulation et la promotion d'une IA responsable en lançant son modèle d'évaluation des hallucinations open source. Ce modèle novateur évalue l'écart entre un LLM et les informations factuelles. En quantifiant ces écarts, Vectara vise à lever les freins à l'adoption généralisée de l'IA en entreprise et à atténuer les risques liés à la désinformation.

Le choix du mot « halluciner » comme mot de l'année par le dictionnaire de Cambridge met en lumière un problème crucial au sein de l'industrie de l'IA. Les inexactitudes et le potentiel de l'IA à générer de fausses informations suscitent l'inquiétude des experts et du grand public. Face à ces « problèmes d'hallucination », la nécessité d'un développement responsable de l'IA et d'une vigilance accrue lors de l'utilisation d'outils d'IA n'a jamais été aussi criante. Le modèle d'évaluation des hallucinations de Vectara représente une avancée significative pour relever ces défis et garantir que l'IA contribue au bien commun plutôt qu'à la propagation de la désinformation à l'ère numérique.