Gli errori di ricerca sulla salute di Google AI Overviews sollevano preoccupazioni

Google utilizza l'intelligenza artificiale per rispondere alle domande relative a problemi di salute. Alcuni analisti ritengono che ciò sia preoccupante, considerando che la funzionalità "Panoramiche" dell'IA potrebbe fornire informazioni inaffidabili.

I medici affermano che le panoramiche basate sull'intelligenza artificiale possono rappresentare un problema, soprattutto quando si tratta di rispondere a domande personali sulla salute. Secondo un recente rapporto del New York Times, sostengono che la funzionalità potrebbe fornire informazioni imprecise, sebbene possa anche guidare le persone verso il trattamento medico necessario.

L'errore di ricerca nelle panoramiche sull'intelligenza artificiale alimenta i sentimenti di allucinazione dell'intelligenza artificiale

Google ha introdotto AI Overviews, una funzionalità che genera riepiloghi dei contenuti dei siti web e li mostra nella pagina dei risultati di ricerca di Google. A pochi giorni dal lancio, la funzionalità ha mostrato una vasta gamma di inesattezze, poiché basava le sue risposte su fonti errate. Un fenomeno che alimenta ulteriormente l'idea che l'intelligenza artificiale sia incline alle allucinazioni e possa generare informazioni di fatto errate.

Leggi anche: Google limita le panoramiche AI ​​per le query satiriche e senza senso

I risultati di ricerca relativi alla salute che somministrano una dose giornaliera di rock o chiedono agli utenti di mangiare pizze incollate hanno generato una reazione negativa. AI Overviews cita fonti come l'Organizzazione Mondiale della Sanità, WebMD, PubMed e Mayo Clinic. Tuttavia, non si limita a queste fonti. Gli analisti affermano che lo strumento estrae informazioni da Reddit, Wikipedia, diversi blog e siti di e-commerce.

Hema Budaraju, Senior Product Management Director di Google, ha affermato che sono previste ulteriori misure di sicurezza per le query relative alla salute, ma si è rifiutata di rivelare ulteriori dettagli. Hema ha aggiunto che alcune query non attivano le panoramiche dell'IA, ad esempio se il sistema rileva una situazione di autolesionismo.

Google ha affermato che AI ​​Overviews si integra con Google Knowledge Graph, una knowledge base contenente dati estratti da diverse fonti, ma non ha fornito dettagli sui siti web che supportano l'output della funzionalità di ricerca assistita dall'intelligenza artificiale.

Google mostra più panoramiche AI ​​per le query sulla salute

I risultati tradizionali, spesso definiti "dieci link blu", erano utili per gli utenti in quanto consentivano di distinguere tra fonti mediche affidabili e link a pagamento o siti web meno attendibili. Con le panoramiche basate sull'intelligenza artificiale, lo scenario è cambiato. Ora, un singolo blocco di testo mostra informazioni raccolte da diverse fonti, il che, secondo gli analisti, crea confusione.

Kate Knibbs di Wired ha dichiarato in un podcast:

"Se digiti qualcosa come "asma" o "ho il diabete" o semplicemente se stai cercando qualcosa che riguardi le malattie, è molto probabile che ancora oggi venga visualizzata una panoramica AI. Voglio dire, non riguarda tutti; si tratta comunque di circa il 63%. E credo che dipenda."

Alcuni medici, come il dott. Dariush Mozaffarian, affermano che le panoramiche AI ​​mostrano alcuni fatti corretti e li riassumono in risposte, ma non distinguono tra prove provenienti da studi osservazionali e sperimentazioni randomizzate.

Un ulteriore livello di disinformazione si aggiunge quando l'articolo confonde le informazioni. Ad esempio, "Il tè verde contiene antiossidanti e aiuta a prevenire il cancro". Mentre la prima affermazione è vera, la seconda non è stata clinicamente provata. Quando tali affermazioni vengono elencate insieme, danno la falsa impressione di essere credibili.

Google ha limitato le panoramiche sull'IA

Gli osservatori che stanno monitorando l'implementazione dell'IA raccomandano cautela nell'approccio ai risultati di ricerca basati sull'IA in ambito sanitario. Suggeriscono agli utenti di leggere attentamente le note a piè di pagina che riportano la dicitura "Questo contenuto è fornito a solo scopo informativo". dal New York Times Come , l'IA generativa è ancora in fase sperimentale e gli utenti dovrebbero consultare un medico in caso di patologie gravi. 

Leggi anche: Gli aggiornamenti principali dell'algoritmo di Google e le panoramiche sull'IA stanno riducendo il traffico degli editori

In una dichiarazione del 30 maggio, Google ha affermato di aver ridotto l'utilizzo delle panoramiche basate sull'intelligenza artificiale in alcune categorie. I dati di Brightedge, un'azienda SEO, corroborano la posizione di Google, suggerendo che la riduzione fosse iniziata ancor prima dell'annuncio dell'azienda. 

Altri report affermano inoltre che Google ha iniziato a eliminare le panoramiche AI ​​per alcune categorie, ancor prima che gli utenti iniziassero a prenderlo in giro per le risposte insensate. Ciononostante, si sostiene che la categoria Salute continui a mostrare un numero elevato di panoramiche AI. Knibbs afferma:

"Ho parlato con altri ricercatori SEO che avevano scoperto che il settore sanitario produceva ancora molte panoramiche basate sull'intelligenza artificiale."

Knibbs afferma di aver testato alcune ricerche relative alla salute e di aver riscontrato risultati diversi a distanza di poche ore, il che dimostra che Google sta lavorando per migliorare i risultati. Ha dichiarato: "Ok, ci stanno provando. Non so se stiano facendo un buon lavoro, ma di sicuro ci stanno defi".

Reportage Cryptopolitan di Aamir Sheikh