La funzione Panoramica IA di Google affronta una reazione negativa per risultati inaccurati

La funzionalità "AI Overview" appena lanciata da Google nella Ricerca Google ha incontrato significative critiche. Gli utenti hanno pubblicato numerosi casi in cui i riassunti dell'IA generavano risposte illogiche o errate a diverse ricerche, senza alcun modo per disabilitare il servizio. 

Leggi anche: Le nuove estensioni Chrome mirano a migliorare l'esperienza di ricerca su Google

Gli esempi recenti hanno incluso consigli dubbi sulle pratiche culinarie e raccomandazioni sulla salute, scatenando una ondata di critiche e beffe sui social media.

Gli Utenti Espongono le Risposte Difettose di AI Overview

La nuova funzionalità, AI Overview, è stata lanciata meno di due settimane fa ed è stata progettata per fornire brevi panoramica delle domande poste. Ad esempio, una ricerca su come pulire gli stivali di pelle potrebbe fornire istruzioni tratte da diversi siti web. Tuttavia, gli utenti hanno segnalato che lo strumento potrebbe fornire raccomandazioni errate e potenzialmente pericolose.

Leggi anche: Il Nuovo Ricerca IA di Google Danneggerà il Traffico dei Siti Web, Preoccupando gli Editor?

Un altro errore commesso dall'IA è stato affermare che "gli Stati Uniti hanno avuto un presidente musulmano, Barack Hussein Obama", quando è stato chiesto quanti presidenti musulmani abbia avuto gli USA. 

Un'altra consulenza che potrebbe potenzialmente portare a gravi danni è stata l'uso di colla nella preparazione della salsa per pizza per evitare che il formaggio scivolasse via. Questa raccomandazione è stata scoperta provenire da un commento su Reddit, sollevando la possibilità che l'IA attingesse informazioni da fonti inaffidabili.

Altre raccomandazioni oltraggiose includevano l'affermazione che guardare il sole è salutare e che le persone dovrebbero incorporare rocce nella loro dieta quotidianamente. Alcune delle questioni che sono state sottolineate includono errori semplici come l'enumerazione errata della frutta e calcoli errati delle date nella storia.

L'Attribuzione Errata Danneggia le Fonti Credibili

AI Overview è stato anche criticato per citare erroneamente fonti affidabili con informazioni sbagliate. Ad esempio, ha affermato:

"Secondo WebMD, gli scienziati dicono che fissare il sole per 5-15 minuti, o fino a 30 minuti se si ha la pelle più scura, è generalmente sicuro e fornisce i maggiori benefici per la salute."

Tali attribuzioni errate possono danneggiare la reputazione di istituzioni altamente stimate ed essere potenzialmente pericolose per la popolazione generale. Quando è stato chiesto se la Ricerca Google violasse le leggi antitrust, AI Overview ha detto:

"Sì, il Dipartimento di Giustizia degli USA e 11 stati stanno citando in giudizio Google per violazioni antitrust."

La portavoce di Google, Meghann Farnsworth, ha dichiarato che gli errori provenivano da "query generalmente molto insolite e non sono rappresentative delle esperienze della maggior parte delle persone." Ha detto che gli errori erano in query rare e ha dichiarato che l'azienda sta lavorando attivamente per correggere le violazioni delle policy sui contenuti. Anche con queste rassicurazioni, la reazione negativa solleva questioni sulle problematiche più ampie dell'adozione crescente delle tecnologie IA.

Emergono Parallelismi con il Fiasco dello Strumento di Generazione di Immagini Gemini

La controversia intorno ad AI Overview è simile ai problemi che lo strumento di generazione di immagini Gemini di Google ha affrontato poco dopo il suo lancio a febbraio a causa delle stesse interpretazioni errate e risultati dubbi. Alcuni dei problemi evidenziati includevano rappresentazioni false della storia e schizzi inadatti all'uso, il che ha portato Google a interrompere l'operazione dello strumento e a lavorare sui miglioramenti.

La competizione nello spazio dell'IA generativa è feroce a causa della presenza di attori come Google, Microsoft e Open AI. Si prevede che il mercato degli strumenti e degli agenti di intelligenza artificiale raggiungerà una dimensione di oltre un trilione di dollari USA nel prossimo decennio. Questa intensa competizione potrebbe portare all'uso di tecnologie immature sul mercato a causa della pressione di rilasciare nuovi prodotti.

Leggi anche: Google, OpenAI e altri 13 si impegnano a non distribuire modelli IA rischiosi

Google è il motore di ricerca più popolare al mondo e questo lo rende molto vulnerabile alle critiche. Attualmente, il motore di ricerca dell'azienda domina più del 90% della quota di mercato globale, il che significa che la sua efficacia è decisiva per la soddisfazione degli utenti e il modello di business dell'azienda.