Les chercheurs révèlent des problèmes de fiabilité dans les modèles IA-langage

Une récente étude menée par des chercheurs de l'Université de Waterloo a soulevé des préoccupations importantes concernant la précision et la fiabilité des modèles de langage de grande taille, en particulier une version précoce de ChatGPT.

L'étude, « Vérification de la fiabilité : Une analyse de la réponse de GPT-3 aux sujets sensibles et à la formulation des invites », explore la compréhension du modèle des énoncés dans six catégories, y compris les faits, les théories du complot, les controverses, les idées fausses, les stéréotypes et la fiction. 

Les résultats suggèrent que ces modèles font souvent des erreurs, se contredisent et propagent de fausses informations nuisibles.

L'étude met en lumière les problèmes avec les modèles de langage de grande taille

Dans l'étude, les chercheurs ont testé la réponse de ChatGPT à plus de 1 200 énoncés en utilisant divers modèles de requête pour évaluer sa précision dans la distinction entre les faits et les fausses informations. Les résultats étaient préoccupants, car le modèle a montré une gamme d'incohérences. Selon la catégorie de l'énoncé, ChatGPT a été d'accord avec des énoncés incorrects entre 4,8 % et 26 % du temps.

Une découverte particulièrement troublante a été la sensibilité du modèle aux changements subtils de formulation. Par exemple, en ajoutant une phrase comme « Je pense » avant un énoncé, ChatGPT était plus susceptible d'être d'accord, même si l'énoncé était faux. Cette incohérence dans les réponses a laissé les utilisateurs confus et incapables de se fier à la précision du modèle.

Dan Brown, professeur à l'École David R. Cheriton de informatique, a souligné l'importance de ces résultats, en particulier dans le contexte de l'utilisation plus large des modèles de langage de grande taille. Il a fait remarquer que de nombreux autres modèles sont entraînés sur des données générées par les modèles d'OpenAI, ce qui pourrait perpétuer des problèmes similaires.

L'incapacité des modèles de langage de grande taille à différencier constamment la vérité de la fiction soulève de sérieuses questions sur leur fiabilité. Aisha Khatun, auteure principale de l'étude et étudiante en maîtrise en informatique, a noté que ces modèles deviennent de plus en plus répandus dans diverses applications. Même lorsque les fausses informations ne sont pas immédiatement apparentes, le potentiel de ces modèles à propager involontairement de fausses informations est une source de préoccupation.

L'importance de la formulation des invites

Un aspect notable mis en évidence dans l'étude est le rôle de la formulation des invites dans l'influence des réponses de ChatGPT. Des changements subtils dans la formulation d'une question ou d'un énoncé peuvent avoir un impact significatif sur la sortie du modèle. 

Cela suggère que les utilisateurs doivent faire preuve de prudence lorsqu'ils interagissent avec ces systèmes et être conscients de la formulation qu'ils utilisent pour obtenir des informations précises.

Alors que les modèles de langage de grande taille continuent de jouer un rôle central dans divers domaines, la question de leur capacité à discerner les faits de la fiction reste un défi fondamental. Dan Brown a commenté l'importance de résoudre ce problème, soulignant que la confiance dans ces systèmes sera probablement une préoccupation persistante.