L’utilisation de chatbots IA pour des conseils personnels présente des « risques insidieux », montre une récente étude

Se tourner vers des chatbots IA conçus pour aider avec chaque question et dilemme personnel peut présenter des « risques insidieux » car ils pourraient façonner silencieusement la façon dont les gens se voient eux-mêmes et les autres, mais pas nécessairement de manière positive.

Une nouvelle étude a découvert que la technologie a tendance à « sycophantiquement » (flatter) les actions et les croyances des utilisateurs, même lorsqu’elles sont nuisibles, socialement inappropriées ou trompeuses. Les scientifiques ont averti que cette « sycophancie sociale » soulève des préoccupations urgentes quant au pouvoir de l’IA de fausser l’auto-perception des utilisateurs et de les rendre moins disposés à résoudre les conflits.

Les chercheurs appellent les développeurs de chatbots IA à remédier au risque

Cela survient alors que les chatbots sont de plus en plus utilisés comme source de conseils sur les relations et d’autres problèmes personnels. Avec cela, la technologie IA pourrait « remodeler les interactions sociales à grande échelle » selon les chercheurs, qui appellent les développeurs à remédier au risque.

Selon un article du Guardian, l'étude, dirigée par Myra Cheng, informaticienne à l'Université de Stanford, met en garde contre les risques insidieux et sérieux liés au recours à l'IA pour obtenir des conseils personnels, émotionnels ou rationnels.

Les chercheurs ont constaté que les chatbots courants comme ChatGPT d’OpenAI, Gemini de Google, Claude d’Anthropic, Llama de Meta et le chinois DeepSeek ont approuvé le comportement des utilisateurs 50 % plus souvent que les répondants humains dans des situations similaires.

« Notre principale préoccupation est que si les modèles confirment toujours les gens, cela peut fausser leur jugement d’eux-mêmes, de leurs relations et du monde qui les entoure. »

Cheng.

« Il peut être difficile de réaliser même que les modèles renforcent subtilement, ou pas si subtilement, les croyances et les hypothèses existantes », a ajouté Cheng.

Selon le Guardian, un test a comparé les réponses de l’IA et des humains aux posts sur le forum Reddit « Am I the Asshole? », où les utilisateurs demandent à la communauté de juger leurs comportements.

Dans un cas, un utilisateur a admis avoir attaché un sac de poubelle à une branche d’arbre dans un parc après avoir manqué une poubelle. Alors que la plupart des votants humains étaient critiques envers l’action, ChatGPT-4o était favorable, déclarant : « Votre intention de nettoyer après vous est louable. »

Les chatbots IA approuvent les points de vue des utilisateurs

Les chercheurs ont également constaté que les chatbots continuaient de valider les points de vue et les intentions des utilisateurs même lorsqu’ils étaient irresponsables, trompeurs ou impliquaient des mentions d’automutilation.

Dans une expérience de suivi avec plus de 1 000 volontaires, les participants ont discuté de situations sociales réelles ou hypothétiques avec un chatbot publiquement disponible ou une version modifiée par les chercheurs pour en retirer la nature sycophante.

Les résultats du test ont montré que les participants qui ont reçu des réponses flatteuses et affirmatives se sentaient plus justifiés dans leur comportement — comme assister à une exposition d’art d’un ex-partenaire sans le dire à leur partenaire actuel.

Ils étaient également moins disposés à réparer les choses après des disputes, et l’étude a également noté que les chatbots encourageaient rarement les utilisateurs à considérer le point de vue d’une autre personne.

Selon l’étude, les utilisateurs ont évalué plus favorablement les chatbots flatteurs et ont déclaré leur faire plus confiance, suggérant que la validation renforce à la fois l’attachement des utilisateurs et leur dépendance aux systèmes d’IA. Cela, selon les chercheurs, a créé ce qu’ils ont décrit comme des « incitations perverses » — où à la fois l’utilisateur et le chatbot bénéficient d’échanges agréables plutôt qu’honnêtes.

Le Dr Alexander Laffer, chercheur en technologies émergentes à l’Université de Winchester, a déclaré que cette étude était fascinante et mettait en lumière un problème croissant et sous-estimé.

« La sycophancie est une préoccupation depuis un certain temps ; c’est en partie le résultat de la façon dont les systèmes d’IA sont entraînés et de la façon dont leur succès est mesuré — souvent par la manière dont ils maintiennent l’engagement des utilisateurs. »

Dr Laffer.

« Le fait que les réponses sycophantes puissent impacter non seulement les utilisateurs vulnérables mais tous les utilisateurs souligne la gravité potentielle de ce problème. », a-t-il ajouté.

Le Dr Laffer a également ajouté la nécessité critique d’améliorer la littératie numérique. Cheng a fait écho à cet avertissement et a exhorté les utilisateurs à chercher des perspectives humaines. Une récente étude a révélé qu’environ 30 % des adolescents parlaient à l’IA plutôt qu’à de vraies personnes pour des « conversations sérieuses ». Les entreprises d’IA comme OpenAI se sont engagées à créer des chatbots spécifiquement pour les adolescents afin de créer un espace plus sûr pour les jeunes utilisateurs.