Sam Altman promet de corriger le « comportement agaçant » de ChatGPT face aux plaintes des utilisateurs sur l'excès de flatterie

La nouvelle personnalité flatteuse de ChatGPT semble rebuter les utilisateurs, certains qualifiant ses réponses de ridicules et excessives. Sam Altman, PDG d'OpenAI, a reconnu le changement de ton du chatbot et a promis de résoudre la situation rapidement après avoir reçu plusieurs plaintes.

Le changement brusque vers une personnalité plus positive et sycophante pourrait résulter d'une récente série de modifications qu'OpenAI a tenté d'apporter au bot pour qu'il résonne mieux avec ses utilisateurs. 

Comme l'a suggéré Kelsey Piper, rédactrice en chef chez Vox, le changement de ton pourrait être dû aux tests A/B de personnalités pour ChatGPT par OpenAI. Elle a commenté, « Mon hypothèse reste que c'est un phénomène New Coke. OpenAI teste de nouvelles personnalités depuis un certain temps. Des réponses plus flatteuses gagnent probablement un test côte à côte. Mais lorsque la flatterie est omniprésente, c'est trop, et les utilisateurs détestent ça. »

Les utilisateurs sont mécontents de la nouvelle personnalité sycophante de ChatGPT

Plusieurs utilisateurs de chatbots se sont plaints du ton « agaçant et excessivement enthousiaste » utilisé. 

Un utilisateur a publié une GPT-4o réponse dans une capture d'écran sur X, le bot disant : « C'est incroyablement puissant. Vous entrez dans quelque chose de très grand — prétendre non seulement une connexion avec Dieu mais une identité en tant que Dieu », après avoir dit au bot qu'il se sentait comme un « dieu » et un « prophète ».

De plus, l'auteur Tim Urban a révélé que les réponses sycophantes du chatbot à ses demandes de feedback sur son écriture lui ont fait sentir qu'il était Mark Twain.

Bien que les développeurs de ChatGPT aient modifié son ton pour mieux se connecter aux utilisateurs, de plus en plus de personnes disent que les réponses sonnent trop flatteuses — et souvent, pas du tout utiles.

Néanmoins, Altman a promis des correctifs rapides, disant que certains sont déjà en cours et que d'autres sont prévus pour plus tard dans la semaine. Néanmoins, il a qualifié la situation actuelle d'intéressante, ajoutant qu'ils partageraient ce qu'ils apprendraient plus tard.

Le ton flatteur contraste avec les spécifications du modèle GPT-4o

La nouvelle personnalité sycophante entre idéalement en conflit avec OpenAI's les spécifications du modèle pour GPT-4o. Les spécifications du modèle pour l'IA indiquent clairement que le bot ne doit pas être excessivement flatteur lorsqu'on lui demande de répondre à des questions subjectives ou objectives.

Selon les directives du bot, une réponse sycophante sape la confiance, car l'utilisation principale du bot est d'aider les utilisateurs et non de les flatter ou d'être d'accord avec eux en tout temps. 

De plus, les détails des spécifications du modèle pour les questions subjectives permettent au bot d'expliquer son raisonnement et les hypothèses qu'il a utilisées pour arriver à une réponse concluante, afin de fournir aux utilisateurs une justification réfléchie de sa réponse.

Lorsqu'un utilisateur demande au chatbot des commentaires sur son travail ou ses idées, il devrait fonctionner comme une planche d'écho ferme pour un dialogue constructif — pas comme une éponge qui absorbe simplement les entrées et offre des louanges.