La funzionalità di panoramica dell'intelligenza artificiale di Google è oggetto di critiche per i risultati inaccurati

La funzionalità "Panoramica AI" recentemente introdotta da Google nella Ricerca Google ha suscitato numerose critiche. Gli utenti hanno segnalato diversi casi in cui i riepiloghi generati dall'IA hanno fornito risposte illogiche o errate a diverse ricerche, senza alcuna possibilità di disattivare il servizio. 

Leggi anche: Le nuove estensioni di Chrome mirano a migliorare l'esperienza di ricerca di Google

Tra gli esempi più recenti ci sono stati consigli discutibili su pratiche culinarie e raccomandazioni sulla salute, che hanno scatenato un'ondata di critiche e prese in giro sui social media.

Gli utenti smascherano le risposte imperfette della panoramica dell'IA

La nuova funzionalità, AI Overview, è stata lanciata meno di due settimane fa ed è stata progettata per fornire brevi panoramiche delle domande poste. Ad esempio, una ricerca su come pulire gli stivali di pelle potrebbe fornire istruzioni provenienti da diversi siti web. Tuttavia, gli utenti hanno segnalato che lo strumento potrebbe fornire raccomandazioni errate e potenzialmente pericolose.

Leggi anche: La nuova ricerca basata sull'intelligenza artificiale di Google danneggerà il traffico dei siti web, preoccupando gli editori?

Un altro errore commesso dall’IA è stato quello di affermare che “gli Stati Uniti hanno avuto undentmusulmano, Barack Hussein Obama”, quando è stato chiesto quantidentmusulmani gli Stati Uniti abbiano avuto. 

Un altro consiglio che avrebbe potuto causare gravi danni era l'uso della colla nella preparazione della salsa per pizza per evitare che il formaggio scivolasse via. Si è scoperto che questa raccomandazione proveniva da un commento su Reddit, il che solleva la possibilità che l'IA ottenga informazioni da fonti inaffidabili.  

Altre raccomandazioni oltraggiose includevano l'affermazione che guardare il sole fa bene alla salute e che le persone dovrebbero integrare le rocce nella loro dieta quotidianamente. Tra i problemi evidenziati figurano semplici errori come l'errata enumerazione della frutta e il calcolo errato delle date storiche.

L'attribuzione errata offusca le fonti credibili

AI Overview è stata anche criticata per aver citato fonti attendibili con informazioni errate. Ad esempio, ha affermato:

Secondo WebMD, gli scienziati affermano che fissare il sole per 5-15 minuti, o fino a 30 minuti se si ha la pelle scura, è generalmente sicuro e apporta i maggiori benefici per la salute

Tali attribuzioni errate possono danneggiare la reputazione di istituzioni altamentesteeme sono potenzialmente pericolose per la popolazione generale. Alla domanda se la Ricerca Google violi o meno le leggi antitrust, AI Overview ha risposto:

"Sì, il Dipartimento di Giustizia degli Stati Uniti e 11 stati stanno facendo causa a Google per violazioni antitrust."

La portavoce di Google, Meghann Farnsworth, ha affermato che gli errori derivavano da "query generalmente molto rare e non rappresentative dell'esperienza della maggior parte delle persone". Ha aggiunto che gli errori si verificavano in query infrequenti e che l'azienda sta lavorando attivamente per correggere le violazioni delle norme sui contenuti. Nonostante queste rassicurazioni, le polemiche sollevano interrogativi sulle problematiche più ampie legate alla crescente adozione delle tecnologie di intelligenza artificiale.

Emergono parallelismi con il fiasco dello strumento di generazione di immagini Gemini

La controversia su AI Overview è simile ai problemi che lo strumento di generazione di immagini Gemini di Google ha dovuto affrontare subito dopo il suo lancio a febbraio, a causa delle stesse interpretazioni errate e dei risultati dubbi. Tra i problemi evidenziati figurano false rappresentazioni storiche e schizzi inadatti all'uso, che hanno spinto Google a interrompere l'utilizzo dello strumento e a lavorarci su per migliorarlo.

La concorrenza nel settore dell'intelligenza artificiale generativa è agguerrita a causa della presenza di attori come Google, Microsoft e Open AI. Si prevede che il mercato degli strumenti e degli agenti di intelligenza artificiale raggiungerà una dimensione di oltre mille miliardi di dollari nel prossimo decennio. Questa intensa concorrenza potrebbe portare all'utilizzo di tecnologie immature sul mercato a causa della pressione per il rilascio di nuovi prodotti.

Leggi anche: Google, OpenAI e altre 13 aziende si impegnano a non implementare modelli di intelligenza artificiale rischiosi

Google è il motore di ricerca più popolare al mondo e questo lo rende molto vulnerabile alle critiche. Attualmente, il motore di ricerca dell'azienda domina oltre il 90% della quota di mercato globale, il che significa che la sua efficacia è decisiva per la soddisfazione degli utenti e per il modello di business dell'azienda.