La fonctionnalité « Aperçu IA » récemment lancée par Google dans la recherche a suscité de vives critiques. De nombreux utilisateurs ont signalé que les résumés générés par l'IA proposaient des réponses illogiques ou erronées à différentes recherches, sans qu'il soit possible de désactiver le service.
À lire également : De nouvelles extensions Chrome visent à améliorer l’expérience de recherche Google
Parmi les exemples récents, on peut citer des conseils douteux en matière de pratiques culinaires et de recommandations sanitaires, qui ont suscité une vague de critiques et de moqueries sur les réseaux sociaux.
Les utilisateurs dénoncent les réponses erronées d'AI Overview
La nouvelle fonctionnalité, « Aperçu IA », a été lancée il y a moins de deux semaines et vise à fournir un bref aperçu des questions posées. Par exemple, une recherche sur le nettoyage des bottes en cuir peut proposer des instructions provenant de différents sites web. Cependant, des utilisateurs ont signalé que l'outil peut fournir des recommandations erronées et potentiellement dangereuses.
À lire également : La nouvelle recherche par IA de Google va-t-elle nuire au trafic des sites web, inquiète les éditeurs ?
Une autre erreur commise par l'IA a été d'affirmer que « les États-Unis ont eu undentmusulman, Barack Hussein Obama », lorsqu'on lui a demandé combien dedentmusulmans les États-Unis avaient eus.
Un autre conseil potentiellement dangereux consistait à utiliser de la colle pour préparer la sauce à pizza afin d'empêcher le fromage de glisser. Cette recommandation provenait d'un commentaire sur Reddit, ce qui laisse penser que l'IA pourrait se renseigner auprès de sources peu fiables.
Parmi les autres recommandations extravagantes, on trouve l'affirmation que regarder le soleil est bon pour la santé et qu'il faudrait consommer des pierres quotidiennement. Des erreurs grossières ont également été relevées, comme une énumération incorrecte des fruits et des erreurs de calcul de dates historiques.
Une attribution erronée nuit à la crédibilité des sources
AI Overview a également été critiqué pour avoir cité de manière erronée des sources fiables. Par exemple, il a affirmé :
« D’après WebMD, les scientifiques affirment que regarder le soleil pendant 5 à 15 minutes, voire jusqu’à 30 minutes pour les personnes à la peau plus foncée, est généralement sans danger et procure le plus de bienfaits pour la santé. »
De telles attributions erronées peuvent nuire à la réputation d'établissementssteemet s'avérer potentiellement dangereuses pour le grand public. Interrogé sur la conformité de Google Search avec le droit de la concurrence, AI Overview a déclaré :
« Oui, le ministère de la Justice américain et 11 États poursuivent Google pour violation des lois antitrust. »
Meghann Farnsworth, porte-parole de Google, a déclaré que les erreurs provenaient de « requêtes généralement très rares et ne sont pas représentatives de l'expérience de la plupart des utilisateurs ». Elle a précisé que ces erreurs concernaient des requêtes exceptionnelles et que l'entreprise s'efforçait activement de corriger les infractions à son règlement relatif au contenu. Malgré ces assurances, la polémique soulève des questions quant aux enjeux plus larges liés à l'adoption croissante des technologies d'intelligence artificielle.
Des parallèles avec le fiasco de l'outil de génération d'images Gemini apparaissent
La controverse autour d'AI Overview rappelle les problèmes rencontrés par l'outil de génération d'images Gemini de Google peu après son lancement en février, en raison des mêmes interprétations erronées et de résultats douteux. Parmi les problèmes mis en évidence figuraient des représentations historiques inexactes et des croquis inutilisables, ce qui a conduit Google à suspendre le fonctionnement de l'outil et à travailler à son amélioration.
La concurrence est féroce dans le domaine de l'IA générative, notamment en raison de la présence d'acteurs tels que Google, Microsoft et OpenAI. On prévoit que le marché des outils et agents d'intelligence artificielle atteindra plus de mille milliards de dollars américains au cours de la prochaine décennie. Cette concurrence intense pourrait favoriser l'utilisation de technologies encore immatures, sous la pression du lancement rapide de nouveaux produits.
À lire également : Google, OpenAI et 13 autres entreprises s’engagent à ne pas déployer de modèles d’IA risqués
Google est le moteur de recherche le plus populaire au monde, ce qui le rend très vulnérable aux critiques. Actuellement, son moteur de recherche domine plus de 90 % des parts de marché mondiales, ce qui signifie que son efficacité est déterminante pour la satisfaction des utilisateurs et pour le modèle économique de l'entreprise.
