La fonctionnalité Aperçu IA de Google fait face à un tollé en raison de résultats inexacts

La fonctionnalité « AI Overview » récemment lancée par Google dans Google Search a rencontré une vive critique. Les utilisateurs ont publié de nombreux cas où les résumés générés par l’IA produisaient des réponses illogiques ou erronées à différentes recherches, sans possibilité de désactiver le service. 

À lire également : De nouvelles extensions Chrome visent à améliorer l’expérience de recherche Google

Les exemples récents incluent des conseils douteux sur les pratiques culinaires et les recommandations de santé, provoquant une vague de critiques et de moqueries sur les réseaux sociaux.

Les utilisateurs exposent les réponses défectueuses d’AI Overview

La nouvelle fonctionnalité, AI Overview, a été lancée il y a moins de deux semaines et était conçue pour fournir des aperçus brefs des questions posées. Par exemple, une recherche sur le nettoyage de bottes en cuir pourrait fournir des instructions issues de différents sites web. Cependant, les utilisateurs ont signalé que l’outil pouvait fournir des recommandations incorrectes et potentiellement dangereuses.

À lire également : La nouvelle recherche IA de Google nuira-t-elle au trafic des sites web, inquiétant les éditeurs ?

Une autre erreur commise par l’IA consistait à affirmer que « les États-Unis ont eu un président musulman, Barack Hussein Obama », lorsqu’on lui a demandé combien de présidents musulains les États-Unis avaient eus. 

Un autre conseil qui aurait pu entraîner des dommages graves était l’utilisation de colle dans la préparation de la sauce à pizza pour empêcher le fromage de glisser. Cette recommandation s’est avérée provenir d’un commentaire Reddit, soulevant la possibilité que l’IA ait puisé des informations dans des sources peu fiables.

D’autres recommandations scandaleuses incluaient l’affirmation selon laquelle regarder le soleil est sain et que les personnes devraient incorporer des roches dans leur alimentation quotidienne. Parmi les problèmes signalés, on trouve des erreurs simples, comme le mauvais décompte de fruits ou le calcul erroné de dates historiques.

Les fausses attributions ternissent la crédibilité des sources

AI Overview a également été critiqué pour avoir cité à tort des sources fiables avec des informations incorrectes. Par exemple, il a affirmé :

« Selon WebMD, les scientifiques disent qu’il est généralement sans danger de regarder le soleil pendant 5 à 15 minutes, ou jusqu’à 30 minutes si vous avez la peau foncée, et que cela procure les meilleurs bienfaits pour la santé. »

De telles fausses attributions peuvent nuire à la réputation d’établissements très estimés et être potentiellement dangereuses pour le grand public. Lorsqu’on lui a demandé si Google Search violait les lois antitrust, AI Overview a répondu :

« Oui, le Département de la Justice des États-Unis et 11 États poursuivent Google pour violations des lois antitrust. »

La porte-parole de Google, Meghann Farnsworth, a déclaré que les erreurs provenaient de « requêtes généralement très rares et ne sont pas représentatives de l’expérience de la plupart des gens ». Elle a indiqué que les erreurs concernaient des requêtes rares et a précisé que l’entreprise travaille activement à corriger les violations des politiques de contenu. Malgré ces assurances, le tollé soulève des questions sur les problèmes plus larges liés à l’adoption croissante des technologies d’IA.

Des parallèles avec le fiasco de l’outil de génération d’images Gemini émergent

La controverse autour d’AI Overview est similaire aux problèmes auxquels l’outil de génération d’images Gemini de Google a été confronté peu après son lancement en février, en raison des mêmes interprétations erronées et résultats douteux. Parmi les problèmes mis en évidence, on trouve de fausses représentations de l’histoire et des croquis inadaptés à l’usage, ce qui a conduit Google à arrêter l’utilisation de l’outil et à travailler à son amélioration.

La concurrence dans le domaine de l’IA générative est rude en raison de la présence de joueurs tels que Google, Microsoft et OpenAI. Il est prévu que le marché des outils et agents d’intelligence artificielle atteigne une taille de plus d’un billion de dollars américains au cours de la prochaine décennie. Cette concurrence intense peut conduire à l’utilisation de technologies immatures sur le marché en raison de la pression pour lancer de nouveaux produits.

À lire également : Google, OpenAI et 13 autres s’engagent à ne pas déployer de modèles d’IA risqués

Google est le moteur de recherche le plus populaire au monde, ce qui le rend très vulnérable aux critiques. Actuellement, le moteur de recherche de l’entreprise domine plus de 90 % de la part de marché mondiale, ce qui signifie que son efficacité est décisive pour la satisfaction des utilisateurs et le modèle commercial de l’entreprise.