Un analyste de Google met en garde : les réponses de l'IA ne sont « pas parfaites et ne peuvent pas remplacer votre cerveau »

L'analyste de Google, Gary Illyes, a averti que les grands modèles de langage – la technologie derrière les chatbots d'IA générative comme ChatGPT – présentent encore des lacunes en matière de précision et nécessitent un œil humain pour vérifier le contenu qu'ils produisent. Ces commentaires font écho quelques jours seulement après le lancement par OpenAI de SearchGPT, un nouveau moteur de recherche alimenté par l'IA qui concurrencera directement Google. 

Illyes a partagé les commentaires sur LinkedIn en réponse à une question reçue dans sa boîte de réception, mais n'a pas précisé quelle était cette question. Il a déclaré que les gens ne devraient pas faire confiance aux réponses de l'IA sans vérifier d'autres sources autorisées. OpenAI vise à bouleverser la domination de Google sur le marché des moteurs de recherche grâce à son outil de recherche.

Les réponses de l'IA ne sont « pas nécessairement correctes sur le plan factuel »

Illyes, qui travaille chez Google depuis plus de dix ans, a déclaré que bien que les réponses de l'IA puissent être proches de la réalité, elles ne sont pas « nécessairement correctes sur le plan factuel ». Cela est dû au fait que les grands modèles de langage (LLM) ne sont pas à l'abri de l'alimentation par des informations erronées circulant sur Internet, a-t-il expliqué.

« Sur la base de leurs données d'entraînement, les LLM trouvent les mots, phrases et phrases les plus appropriés qui s'alignent sur le contexte et la signification d'une invite », a écrit Illyes. « Cela leur permet de générer des réponses pertinentes et cohérentes. Mais pas nécessairement correctes sur le plan factuel. »

L'analyste de Google a déclaré que les utilisateurs devront toujours valider les réponses de l'IA en se basant sur ce « que vous savez sur le sujet que vous avez demandé au LLM ou sur des lectures supplémentaires de ressources faisant autorité pour votre requête ».

L'une des façons dont les développeurs ont essayé d'assurer la fiabilité du contenu généré par l'IA est par une pratique appelée « ancrage » (grounding). Le processus consiste à infuser des informations créées par la machine avec des éléments humains pour se protéger contre les erreurs. Selon Illyes, l'ancrage pourrait ne pas suffire.

« L'ancrage peut aider à créer des réponses plus correctes sur le plan factuel, mais il n'est pas parfait ; il ne remplace pas votre cerveau », a-t-il déclaré. « L'Internet est rempli de désinformation intentionnelle et non intentionnelle, et vous ne croiriez pas tout ce que vous lisez en ligne, alors pourquoi croiriez-vous les réponses des LLM ? »

Elon Musk accuse Google de contrôler l'accès à l'information publique

Traditionnellement, la confiance a toujours été un problème avec les moteurs de recherche comme Google et d'autres plateformes d'intelligence artificielle, ainsi qu'avec leur capacité à exercer un certain contrôle sur les informations qu'elles fournissent aux utilisateurs.

Un tel incident implique la récente tentative d'assassinat de l'ancien président des États-Unis, Donald Trump. Elon Musk a suggéré que Google avait interdit l'apparition de l'incident de tir dans ses résultats de recherche, déclenchant un débat majeur sur les réseaux sociaux concernant l'influence des grandes technologies.

Incroyable, Google a imposé une interdiction de recherche sur le président Donald Trump !

Ingérence électorale ? pic.twitter.com/dJzgVAAFZA

— Elon Musk (@elonmusk) juillet 29, 2024

Dans la flurry de réponses, un compte usurpateur se présentant comme Ana Mostarac, vice-présidente de Google, a ajouté au débat, partageant une fausse excuse de l'entreprise pour avoir prétendument bloqué du contenu concernant Trump.

« … Les besoins en information des gens continuent de croître, donc nous continuerons à faire évoluer et à améliorer Search. Cependant, il semble que nous devions recalibrer ce que nous entendons par exact. Ce qui est exact est subjectif, et la quête de l'exactitude peut faire obstacle à l'accomplissement des tâches », a publié le compte usurpateur sur X.

« Vous pouvez être assuré que notre équipe travaille dur pour s'assurer que notre révérence pour l'exactitude ne devienne pas une distraction qui entrave notre vision de l'avenir », a-t-il ajouté.

Les notes de la communauté sur X ont immédiatement signalé le tweet, indiquant que la personne usurpait l'identité du vice-président de Google. C'est un exemple de la façon dont l'information peut facilement être déformée, et les modèles d'IA peuvent ne pas être en mesure de discerner ce qui est exact ou non sans examen humain.