Gli errori di ricerca sanitaria nelle Panoramiche AI di Google suscitano preoccupazioni

Google sta utilizzando l'intelligenza artificiale per rispondere a query relative a problemi di salute. Alcuni analisti trovano questo preoccupante, considerando che la funzione AI Overviews potrebbe fornire informazioni inaffidabili.

I medici affermano che le AI Overviews possono essere una fonte di preoccupazione, specialmente quando si tratta di rispondere a query sulla salute personale. Sostengono che la funzione ha il potenziale per diffondere informazioni inaccurate, anche se può anche guidare le persone verso le cure mediche necessarie, secondo un recente rapporto del New York Times.

L'errore nelle ricerche AI Overviews alimenta i sentimenti sull'allucinazione dell'IA

Google ha introdotto le AI Overviews, una funzione che genera riassunti dei contenuti dai siti web e li mostra nella pagina dei risultati di ricerca di Google. Entro pochi giorni dal lancio, la funzione ha mostrato una vasta gamma di inesattezze, poiché basava le sue risposte su fonti difettose. Un episodio che ha ulteriormente alimentato il sentimento secondo cui l'IA è soggetta ad allucinazioni e può generare informazioni fattualmente errate.

Leggi anche: Google limita le AI Overviews per query satiriche e nonsensiche

Risultati di ricerca relativi alla salute che somministrano una dose quotidiana di rock o chiedono agli utenti di mangiare pizze incollate hanno generato un contraccolpo. Le AI Overviews citano fonti come l'Organizzazione Mondiale della Sanità, WebMD, PubMed e la Mayo Clinic. Tuttavia, non sono limitate a queste fonti. Gli analisti affermano che lo strumento attinge informazioni da Reddit, Wikipedia, diversi blog e siti di e-commerce.

Hema Budaraju, direttrice senior della gestione prodotti presso Google, ha dichiarato che esistono ulteriori protezioni per le query relative alla salute, ma si è rifiutata di rivelare ulteriori dettagli. Hema ha aggiunto che alcune query non attivano gli AI Overview; ad esempio, se il sistema rileva una situazione di autolesionismo.

Google ha affermato che gli AI Overview si integrano con la Google Knowledge Graph, una base di dati contenente informazioni raccolte da diverse fonti, ma non ha fornito dettagli sui siti web che supportano l'output della funzione di ricerca assistita dall'IA.

Google mostra più AI Overview per le query sulla salute

I risultati tradizionali, spesso chiamati "dieci link blu", erano utili per gli utenti poiché potevano distinguere tra fonti mediche affidabili e link a pagamento o siti meno credibili. Con gli AI Overview, lo scenario è cambiato: ora un unico blocco di testo mostra informazioni raccolte da diverse fonti, il che, secondo gli analisti, genera confusione.

Kate Knibbs di Wired ha dichiarato in un podcast:

"Se digiti qualcosa su asma o 'ho il diabete', o in generale se stai cercando qualsiasi cosa relativa a malattie, oggi sei molto probabilmente ancora soggetto a vedere un AI Overview. Intendo dire, non riguarda tutti; è ancora circa il 63 percento. E penso che dipenda."

Alcuni medici, come il Dr. Dariush Mozaffarian, affermano che le Panoramiche AI mostrano alcuni fatti corretti e li sintetizzano in risposte, ma non distinguono tra evidenze provenienti da studi osservazionali e trial randomizzati.

Un altro strato di disinformazione si aggiunge quando la funzione mescola le informazioni. Ad esempio: "Il tè verde contiene antiossidanti e aiuta a prevenire il cancro." Sebbene la prima affermazione sia vera, la seconda non è stata provata clinicamente. Quando tali affermazioni sono elencate insieme, creano l'impressione falsa che siano credibili.

Google ha limitato gli AI Overviews

Le persone che osservano il rollout dell'IA consigliano cautela nell'avvicinarsi ai risultati di ricerca sanitaria generati dall'IA. Sostengono che gli utenti dovrebbero considerare le note a piè di pagina sotto alcune risposte che riportano “Questo è solo a scopo informativo.” Il report del NYTimes ha notato che l'IA generativa si trova nella fase sperimentale e che gli utenti dovrebbero consultare i medici in caso di condizioni serie.

Leggi anche: Gli aggiornamenti dell'algoritmo core di Google e gli AI Overviews stanno riducendo il traffico dei publisher

In una dichiarazione del 30 maggio, Google ha affermato di aver ridotto l'utilizzo degli AI Overviews in alcune categorie. I dati di un'azienda SEO, Brightedge, corroborano la posizione di Google, suggerendo che la riduzione era iniziata anche prima dell'annuncio dell'azienda. 

Altre relazioni indicano che Google ha iniziato a revocare gli AI Overviews per determinate categorie persino prima che i netizen iniziassero a prenderlo in giro per risposte nonsensiche. Tuttavia, ci sono affermazioni secondo cui la categoria salute continua a mostrare un alto numero di AI Overviews. Knibbs afferma:

"Ho parlato con altri ricercatori SEO che hanno scoperto che la sanità stava ancora producendo molti AI Overviews."

Knibbs afferma di aver testato alcune query relative alla salute e di aver trovato risultati diversi nel giro di poche ore, il che dimostra che Google sta lavorando per migliorare i risultati. Ha detto: “Ok, stanno provando. Non so se stiano facendo un buon lavoro, ma stanno sicuramente provando.”

Reportage di Cryptopolitan a cura di Aamir Sheikh