Les erreurs de recherche dans Google AI Overviews soulèvent des inquiétudes

Google utilise l'intelligence artificielle pour répondre aux questions relatives à la santé. Certains analystes s'inquiètent de cette pratique, car la fonctionnalité « Aperçu par l'IA » pourrait fournir des informations peu fiables.

Les professionnels de santé s'inquiètent des aperçus fournis par l'IA, notamment pour les questions de santé personnelles. Selon un récent article du New York Times, ils estiment que cette fonctionnalité risque de diffuser des informations inexactes, même si elle peut orienter les utilisateurs vers les traitements médicaux nécessaires.

Une erreur de recherche dans les aperçus de l'IA alimente les sentiments d'hallucination liés à l'IA

Google a lancé AI Overviews, une fonctionnalité qui génère des résumés de contenu provenant de sites web et les affiche sur sa page de résultats de recherche. Quelques jours seulement après son lancement, cette fonctionnalité a révélé de nombreuses inexactitudes, car ses réponses étaient basées sur des sources erronées. Ce problème renforce l'idée que l'IA est sujette à des erreurs et peut produire des informations factuellement incorrectes.

À lire également : Google limite les aperçus de l’IA pour les requêtes satiriques et absurdes

Les résultats de recherche liés à la santé, tels que ceux qui préconisent la consommation quotidienne de roches ou qui incitent à manger des pizzas collées, ont suscité une vive polémique. AI Overviews cite certes des sources comme l'Organisation mondiale de la santé, WebMD, PubMed et la Mayo Clinic, mais ne s'y limite pas. Selon les analystes, l'outil collecte également des informations sur Reddit, Wikipédia, divers blogs et sites de commerce électronique.

Hema Budaraju, directrice principale de la gestion des produits chez Google, a indiqué que des garde-fous supplémentaires encadrent les requêtes liées à la santé, sans toutefois donner plus de détails. Elle a ajouté que certaines requêtes ne déclenchent pas de synthèse de l'IA, par exemple si le système détecte une situation d'automutilation.

Google a déclaré que la fonctionnalité AI Overviews s'intègre à Google Knowledge Graph, une base de connaissances contenant des données provenant de plusieurs sources, mais n'a pas fourni de détails sur les sites Web qui prennent en charge les résultats de la fonctionnalité de recherche assistée par l'IA.

Google affiche davantage de présentations de l'IA pour les requêtes de santé

Les résultats traditionnels, souvent appelés « dix liens bleus », étaient utiles aux utilisateurs car ils leur permettaient de distinguer les sources médicales fiables des liens sponsorisés ou des sites web moins crédibles. Avec les aperçus basés sur l'IA, la donne a changé. Désormais, un seul bloc de texte regroupe des informations provenant de différentes sources, ce qui, selon les analystes, est source de confusion.

Kate Knibbs, de Wired, a déclaré dans un podcast:

« Si vous tapez "asthme" ou "diabète" ou toute autre recherche liée aux maladies, vous avez de fortes chances, encore aujourd'hui, de voir apparaître une vue d'ensemble de l'IA. Enfin, pas pour tout le monde ; environ 63 % des recherches. Et je pense que ça dépend des cas. »

Certains médecins, comme le Dr Dariush Mozaffarian, affirment que les synthèses d'IA présentent des faits corrects et les résument en réponses, mais qu'elles ne font pas la distinction entre les données issues d'études observationnelles et celles issues d'essais randomisés.

Une autre couche de désinformation apparaît lorsque l'article mélange les informations. Par exemple : « Le thé vert contient des antioxydants et contribue à prévenir le cancer. » Si la première affirmation est vraie, la seconde n'a pas été prouvée cliniquement. Lorsque de telles affirmations sont présentées ensemble, elles donnent l'illusion de leur crédibilité.

Google a restreint l'accès aux aperçus de l'IA

Les observateurs du déploiement de l'IA recommandent la prudence face aux résultats de recherche liés à la santé. Ils conseillent aux utilisateurs de lire attentivement les mentions légales sous certaines réponses, du type « À titre informatif uniquement ». L' article souligne que l'IA générative est encore au stade expérimental et que, en cas de problème de santé grave, il est indispensable de consulter un médecin. 

À lire également : Les mises à jour de l’algorithme principal de Google et les aperçus de l’IA réduisent le trafic des éditeurs

Dans un communiqué du 30 mai, Google a indiqué avoir réduit l'utilisation des aperçus IA dans certaines catégories. Les données de la société de référencement Brightedge corroborent cette position, suggérant que cette réduction avait déjà commencé avant même l'annonce de l'entreprise. 

D'autres rapports indiquent également que Google a commencé à supprimer les aperçus de l'IA pour certaines catégories avant même que les internautes ne se moquent de ses réponses incohérentes. Néanmoins, certains affirment que la catégorie santé continue d'afficher un nombre élevé d'aperçus de l'IA. Knibbs déclare :

« J’ai discuté avec d’autres chercheurs en référencement qui avaient également constaté que le secteur de la santé générait encore beaucoup de synthèses sur l’IA. »

Knibbs explique avoir effectué des tests sur des requêtes liées à la santé et obtenu des résultats différents en quelques heures seulement, ce qui prouve que Google s'efforce d'améliorer ses résultats. Elle ajoute : « Bon, ils essaient. Je ne sais pas si leurs efforts sont suffisants, mais ils deficertain. »

Reportage Cryptopolitan par Aamir Sheikh