Les erreurs de recherche de santé dans les aperçus Google AI suscitent des inquiétudes

Google utilise l'intelligence artificielle pour répondre aux requêtes concernant les problèmes de santé. Certains analystes trouvent cela préoccupant, considérant que la fonctionnalité des aperçus IA pourrait fournir des informations peu fiables.

Les praticiens médicaux disent que les aperçus IA peuvent être une préoccupation, surtout lorsqu'ils répondent à des requêtes de santé personnelles. Ils ont fait valoir que la fonctionnalité a le potentiel de diffuser des informations inexactes, même si elle peut également orienter les personnes vers le traitement médical requis, selon un récent rapport du New York Times.

L'erreur de recherche des aperçus IA alimente les sentiments d'hallucination IA

Google a introduit les aperçus IA, une fonctionnalité qui génère des résumés de contenu à partir de sites Web et les affiche sur la page de résultats de recherche de Google. En quelques jours seulement après le lancement, la fonctionnalité a montré une grande variété d'inexactitudes, car elle s'est basée sur des sources erronées. Un événement qui alimente davantage le sentiment selon lequel l'IA est sujette aux hallucinations et peut générer des informations factuellement incorrectes.

À lire également : Google limite les aperçus IA pour les requêtes satiriques et absurdes

Les résultats de recherche liés à la santé administrant une dose quotidienne de rock ou demandant aux utilisateurs de manger des pizzas collées ont suscité un tollé. Les aperçus IA citent des sources comme l'Organisation mondiale de la santé, WebMD, PubMed et la Mayo Clinic. Cependant, ils ne se limitent pas à ces sources. Les analystes disent que l'outil extrait des informations de Reddit, Wikipédia, de différents blogs et de sites de commerce électronique.

Hema Budaraju, directrice senior de la gestion de produit chez Google, a déclaré qu'il existe des garde-fous supplémentaires pour les requêtes liées à la santé, mais elle a refusé de révéler plus de détails. Hema a ajouté que certaines requêtes ne déclenchent pas les aperçus IA, par exemple, si le système détecte une situation d'automutilation.

Google a déclaré que les aperçus IA s'intègrent au Google Knowledge Graph, une base de connaissances contenant des données extraites de plusieurs sources, mais n'a pas fourni de détails sur les sites Web soutenant la sortie de la fonctionnalité de recherche assistée par IA.

Google affiche plus d'aperçus IA pour les requêtes de santé

Les résultats traditionnels, souvent appelés « dix liens bleus », étaient utiles pour les utilisateurs car ils pouvaient distinguer entre des sources médicales réputées et des liens payants ou des sites moins crédibles. Avec les aperçus IA, le scénario a changé. Maintenant, un seul bloc de texte affiche des informations recueillies à partir de différentes sources, ce qui, selon les analystes, cause de la confusion.

Kate Knibbs de Wired a déclaré dans un podcast :

« Si vous tapez quelque chose sur l'asthme ou si j'ai du diabète ou fondamentalement si vous recherchez quoi que ce soit impliquant des maladies, vous êtes très susceptible de voir un aperçu IA aujourd'hui. Je veux dire, ce n'est pas tout le monde ; c'est encore environ 63 %. Et je pense que cela dépend. »

Certains médecins, comme le Dr Dariush Mozaffarian, affirment que les aperçus IA présentent certains faits corrects et les résument en réponses, mais ils ne font pas la différence entre les preuves issues d'études observationnelles et celles des essais randomisés.

Une autre couche de désinformation est ajoutée lorsque la fonctionnalité embrouille les informations. Par exemple, « Le thé vert contient des antioxydants et il aide à prévenir le cancer. » Bien que la première partie soit vraie, la seconde n'a pas été prouvée cliniquement. Lorsque de telles affirmations sont listées ensemble, elles donnent une fausse impression de crédibilité.

Google a restreint les aperçus IA

Les personnes observant le déploiement de l'IA conseillent la prudence lorsqu'elles abordent les résultats de recherche liés à la santé. Elles disent que les utilisateurs devraient considérer les petites lignes sous certaines réponses qui indiquent : « Ceci est à titre informatif uniquement. » Le NYTimes rapporte que l'IA générative est à une phase expérimentale et que les utilisateurs devraient consulter des médecins en cas de problème de santé sérieux.

À lire également : Les mises à jour de l'algorithme central de Google et les aperçus IA réduisent le trafic des éditeurs

Dans une déclaration du 30 mai, Google a déclaré qu'il avait réduit l'utilisation des aperçus IA dans certaines catégories. Les données d'une entreprise SEO, Brightedge, corroborent la position de Google, suggérant que la réduction avait commencé même avant l'annonce de l'entreprise. 

D'autres rapports indiquent également que Google a commencé à revenir sur les aperçus IA pour certaines catégories, même avant que les internautes ne se moquent de ses réponses absurdes. Néanmoins, il y a des affirmations selon lesquelles la catégorie de la santé continue d'afficher un grand nombre d'aperçus IA. Knibbs dit :

« J'ai parlé à d'autres chercheurs SEO qui avaient également constaté que la santé produisait encore beaucoup d'aperçus IA. »

Knibbs dit qu'elle a testé certaines requêtes liées à la santé et a trouvé des résultats différents en quelques heures, ce qui montre que Google travaille à l'amélioration des résultats. Elle a déclaré : « D'accord, ils essaient. Je ne sais pas s'ils font un travail suffisamment bon, mais ils essaient certainement. »

Article de Cryptopolitan par Aamir Sheikh