Les nouveaux modèles ChatGPT d'OpenAI s'avèrent « halluciner » plus souvent

Les nouveaux modèles de raisonnement d'OpenAI, o3 et o4-mini, produisent des réponses inventées plus souvent que les modèles précédents de l'entreprise, comme le montrent des tests internes et externes. 

La hausse des soi-disant hallucinations brise un schéma de longue date selon lequel chaque nouvelle version avait tendance à inventer moins que le modèle précédent.

Les propres chiffres d'OpenAI mettent le problème en évidence de manière criante. Sur PersonQA, un benchmark de l'entreprise qui vérifie la capacité d'un modèle à se souvenir de faits sur les personnes, o3 a inventé des informations dans 33 % des réponses, soit environ le double des taux enregistrés par o1 et o3-mini, qui ont obtenu 16 % et 14,8 %. O4-mini s'est encore moins bien comporté, hallucinant 48 % du temps.

Un rapport technique détaille les conclusions. Les ingénieurs écrivent que les nouveaux modèles surpassent les versions précédentes en codage et en mathématiques, mais parce qu'ils « formulent plus de déclarations dans l'ensemble », ils font également « plus de déclarations exactes ainsi que plus de déclarations inexactes / hallucinées ». Le document ajoute que « plus de recherches sont nécessaires » pour expliquer cette baisse de fiabilité.

OpenAI classe les systèmes de la série o comme des modèles de raisonnement, une ligne que l'entreprise et une grande partie de l'industrie ont adoptée au cours de l'année dernière. Les modèles traditionnels non raisonnants tels que GPT-4o avec recherche web surpassent le duo le plus récent en matière d'exactitude : GPT-4o avec recherche atteint 90 % de précision sur SimpleQA, un autre benchmark interne.

Le modèle o3 d'OpenAI invente des étapes

Transluce, un laboratoire à but non lucratif dédié à l'IA, a rapporté que le modèle o3 inventait des étapes. Dans une exécution, le modèle a déclaré avoir exécuté du code sur un MacBook Pro de 2021 « en dehors de ChatGPT », puis a copié les chiffres. Le modèle n'est tout simplement pas capable de faire cela.

« Notre hypothèse est que le type d'apprentissage par renforcement utilisé pour les modèles de la série o peut amplifier des problèmes qui sont généralement atténués (mais pas entièrement effacés) par les pipelines post-entraînement standard », a déclaré Neil Chowdhury, chercheur chez Transluce et ancien employé d'OpenAI, dans un e-mail.

Sarah Schwettmann, co-fondatrice de Transluce, a déclaré que le taux d'erreur plus élevé pourrait rendre o3 moins utile que ne le suggèrent ses compétences brutes.

Kian Katanforoosh, professeur adjoint à Stanford, a déclaré à TechCrunch que son équipe testait déjà o3 pour des tâches de codage et le considérait comme « une étape au-dessus de la concurrence ». Pourtant, il a signalé un autre défaut : le modèle retourne souvent des liens web qui ne fonctionnent pas lorsqu'on clique dessus.

Les hallucinations peuvent stimuler la créativité, mais elles rendent les systèmes difficiles à vendre pour les entreprises qui ont besoin d'exactitude. Un cabinet d'avocats rédigeant des contrats, par exemple, est peu susceptible de tolérer des erreurs factuelles fréquentes.

La recherche en temps réel pourrait réduire les hallucinations dans les modèles d'IA

Une solution possible est la recherche en temps réel. La version GPT-4o d'OpenAI, qui consulte le web, obtient déjà de meilleurs résultats sur SimpleQA. Le rapport suggère que la même tactique pourrait réduire les hallucinations dans les modèles de raisonnement, au moins lorsque les utilisateurs sont disposés à envoyer des invites à un moteur tiers.

« L'identification des hallucinations sur l'ensemble de nos modèles est un domaine de recherche en cours, et nous travaillons continuellement à améliorer leur précision et leur fiabilité », a déclaré le porte-parole d'OpenAI, Niko Felix, dans un e-mail.

Il reste incertain si la recherche en temps réel suffira à résoudre le problème. Le rapport met en garde : si l'augmentation de la puissance des modèles de raisonnement aggrave les hallucinations, la quête de correctifs deviendra plus urgente. Les chercheurs appellent depuis longtemps les hallucinations à être l'un des problèmes les plus difficiles de l'IA, et les dernières conclusions soulignent à quel point il reste encore du chemin à parcourir.

Pour OpenAI, la crédibilité est importante car ChatGPT est utilisé dans les lieux de travail, les salles de classe et les studios créatifs. Les ingénieurs disent qu'ils continueront à ajuster l'apprentissage par renforcement, la sélection des données et l'utilisation d'outils pour faire baisser ces chiffres. Jusqu'à ce que cela soit fait, les utilisateurs doivent équilibrer des compétences plus pointues contre un risque plus élevé d'être induits en erreur.