Chargement...

Les erreurs de recherche sur la santé de Google AI Overviews suscitent des inquiétudes

Dans cet article :

  • Les questions liées à la santé génèrent davantage de résumés d’IA, ce qui inquiète les analystes.
  • Les médecins disent que le mélange de faits provenant de différentes sources rend les statistiques les moins crédibles plus crédibles.
  • Certains analystes affirment que Google semble travailler sur ses aperçus de l'IA pour les rendre plus fiables.

Google utilise l'intelligence artificielle pour répondre aux questions concernant les problèmes de santé. Certains analystes trouvent cela préoccupant, étant donné que la fonctionnalité AI Overviews peut fournir des informations peu fiables.

Les médecins affirment que les aperçus de l’IA peuvent être préoccupants, en particulier lorsqu’il s’agit de répondre à des questions personnelles sur la santé. Ils ont fait valoir que cette fonctionnalité est susceptible de donner des informations inexactes, même si elle peut également guider les gens vers le traitement médical requis, selon un récent rapport du New York Times.

Une erreur de recherche dans AI Overviews alimente les sentiments d’hallucination de l’IA

Google a introduit AI Overviews, une fonctionnalité qui génère des résumés du contenu des sites Web et les affiche sur la page de résultats de recherche de Google. Quelques jours après son lancement, la fonctionnalité a montré un large éventail d'inexactitudes, car elle basait ses réponses sur des sources erronées. Un événement qui alimente encore davantage le sentiment selon lequel l’IA est sujette aux hallucinations et peut générer des informations factuellement incorrectes.

A lire aussi : Google limite les aperçus de l'IA pour les requêtes satiriques et absurdes

Les résultats de recherche liés à la santé administrant une dose quotidienne de roche ou demandant aux utilisateurs de manger des pizzas collées ont généré une réaction violente. Les aperçus de l'IA citent des sources telles que l'Organisation mondiale de la santé, WebMD, PubMed et Mayo Clinic. Cependant, ils ne se limitent pas à ces sources. Les analystes affirment que l'outil extrait des informations de Reddit, Wikipédia, de différents blogs et sites de commerce électronique.

Hema Budaraju, directrice principale de la gestion des produits chez Google, a déclaré qu'il existe des garde-fous supplémentaires pour les requêtes liées à la santé, mais elle a refusé de révéler plus de détails. Hema a ajouté que certaines requêtes ne déclenchent pas les aperçus de l'IA, par exemple si le système détecte une situation d'automutilation.

Google a déclaré que AI Overviews s'intègre à Google Knowledge Graph, une base de connaissances contenant des données extraites de plusieurs sources, mais n'a pas fourni de détails sur les sites Web prenant en charge la fonction de recherche assistée par l'IA.

Google affiche davantage d'aperçus de l'IA pour les requêtes de santé

Les résultats traditionnels, souvent appelés « dix liens bleus », étaient utiles aux utilisateurs car ils pouvaient faire la distinction entre les sources médicales réputées et les liens payants ou les sites Web moins crédibles. Avec les aperçus IA, le scénario a changé. Désormais, un seul bloc de texte affiche des informations recueillies auprès de différentes sources, ce qui, selon les analystes, prête à confusion.

Kate Knibbs de Wired a déclaré dans un podcast :

« Si vous tapez quelque chose dans l'asthme ou si je souffre de diabète ou si vous recherchez quelque chose impliquant des maladies, il est très probable que vous voyiez encore aujourd'hui un aperçu de l'IA. Je veux dire, ce n'est pas tout le monde ; c'est toujours environ 63 pour cent. Et je pense que cela dépend.

Certains médecins, comme le Dr Dariush Mozaffarian , affirment que les aperçus de l'IA montrent certains faits qui sont corrects et les résument en réponses, mais ils ne font pas de différence entre les preuves issues des études observationnelles et des essais randomisés.

Une autre couche de désinformation est ajoutée lorsque la fonctionnalité brouille les informations. Par exemple : « Le thé vert contient des antioxydants et aide à prévenir le cancer. » Même si la première hypothèse est vraie, la seconde n’a pas été cliniquement prouvée. Lorsque ces affirmations sont répertoriées ensemble, elles donnent une fausse impression de crédibilité.

Google a restreint les aperçus de l'IA

Les personnes observant le déploiement de l’IA conseillent de faire preuve de prudence lorsqu’elles abordent les résultats de recherche d’IA liés à la santé. Ils disent que les utilisateurs devraient tenir compte des petits caractères sous certaines réponses indiquant : « Ceci est uniquement à des fins d’information. » Le rapport note que l'IA générative est en phase expérimentale et que les utilisateurs devraient consulter des médecins en cas de problème grave.

A lire également : Les mises à jour de l'algorithme de base de Google et les aperçus de l'IA réduisent le trafic des éditeurs

Dans un communiqué du 30 mai, Google a déclaré avoir réduit l'utilisation des aperçus d'IA dans certaines catégories. Les données d'une société de référencement, Brightedge, corroborent la position de Google, suggérant que la réduction avait commencé avant même l'annonce de l'entreprise.  

D'autres rapports indiquent également que Google a commencé à annuler les aperçus de l'IA pour certaines catégories avant même que les internautes ne commencent à s'en moquer pour des réponses absurdes. Néanmoins, certains prétendent que la catégorie santé continue d’afficher un nombre élevé d’aperçus d’IA. Knibbs dit :

"J'ai parlé à d'autres chercheurs en référencement qui avaient également découvert que les soins de santé produisaient encore de nombreux aperçus d'IA."

Knibbs dit qu'elle a testé certaines requêtes liées à la santé et trouvé des résultats différents quelques heures après avoir essayé, ce qui montre que Google travaille à améliorer les résultats. Elle a dit : « OK, ils essaient. Je ne sais pas s’ils font un assez bon travail, mais ils defi .


Reportage cryptopolitain d'Aamir Sheikh

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

Si Joe Biden abandonne la course, quelle est la prochaine étape ?
cryptopolite
Abonnez-vous à CryptoPolitan