Google limita le anteprime di IA per query satiriche e nonsensiche
Google mostrerà meno Panoramica AI
- Secondo utenti e analisti di motori di ricerca, Google mostra ora meno Panoramica AI.
- Liz Reid, VP di Google Search, ha ammesso che il gigante della ricerca sta riducendo le Panoramica AI.
- Google ha identificato contenuti satirici e nonsensici come causa di risposte errate.
Google sta riducendo la presentazione delle Panoramiche IA in alcuni risultati di ricerca. La decisione è arrivata dopo che il gigante della ricerca ha commesso alcuni errori pubblicizzati che hanno creato una reazione negativa pubblica su Internet.
Giovedì, Liz Reid, capo di Google Search, ha ammesso che l'azienda stava limitando i riassunti generati dall'IA chiamati "Panoramiche IA". La funzione basata sull'IA è stata criticata quando ha iniziato a mostrare contenuti che dicevano alle persone di mangiare rocce e incollare il formaggio sulla loro pizza.
Leggi anche: Google, OpenAI e altri 13 si impegnano a non distribuire modelli IA rischiosi
Google ha iniziato a mostrare le Panoramiche IA ai suoi utenti negli Stati Uniti due settimane fa dopo il suo evento I/O annuale, durante il quale ha lanciato diverse offerte basate sull'IA. Da giovedì in poi, gli utenti hanno notato meno domande, che hanno portato a una risposta dell'IA.
Identificare le Panoramiche IA false richiede un'attenta analisi
Reid ha scritto in un post sul blog che le persone sui social media hanno condiviso screenshot di Panoramiche IA che suggerivano soluzioni strane. Ha detto che l'IA dell'azienda ha commesso alcuni errori, ma molti erano falsi e non sono mai stati generati dal sistema IA di Google.
Ha ammesso che alcune Panoramiche IA strane o inaccurate hanno sicuramente apparso. Ha evidenziato le aree in cui la funzione deve essere migliorata, ma non sono query comunemente cercate. Notando quelle false, ha detto,
"Inoltre, ci sono stati un gran numero di screenshot falsi condivisi ampiamente. Alcuni di questi risultati falsi sono stati ovvi e sciocchi."
Reid ha detto che Google non ha mostrato alcuna Le Panoramiche IA per argomenti come il fumo durante la gravidanza o lasciare i cani in auto. Ha incoraggiato gli utenti che hanno visto quegli screenshot sui social media a cercare da soli e verificare.
L'IA di Google può ora identificare i contenuti satirici
Google ha identificato che i contenuti satirici e le query nonsensiche erano aree che dovevano essere affrontate per produrre Panoramiche IA inaccurate. Google ha detto che prima che gli screenshot della query "Quante rocce dovrei mangiare?" diventassero virali, nessuno ha posto la domanda. Reid ha detto che Google Trends può essere visto per conferma.
Un altro fattore è che è disponibile molto poco contenuto su un argomento specifico, noto anche come vuoto di dati, che è anche una ragione per Panoramiche IA inaccurate. Per quanto riguarda la query sul mangiare rocce, Reid ha detto che la natura satirica del contenuto ha attivato la Panoramica IA. Il contenuto è stato anche ripubblicato da un sito web di software geologico, a cui la Panoramica IA ha collegato. Ha chiarito,
"Quindi quando qualcuno ha inserito quella domanda nella Ricerca, è apparsa una Panoramica IA che ha collegato fedelmente a uno dei pochi siti web che affrontavano la domanda."
Reid non ha menzionato le altre Panoramiche IA che circolano sui social media, e molti grandi editori hanno anche pubblicato rapporti su di esse. Ad esempio, The Washington Post ha pubblicato un rapporto su Google che diceva alle persone che Barack Obama era musulmano. La pubblicazione ha anche riportato un altro caso in cui la Panoramica IA di Google ha detto a un utente che le persone dovrebbero bere urina per aiutare a passare i calcoli renali.
Google ha un'ossessione per i forum pubblici
Il capo della ricerca di Google ha notato che l'azienda ha testato la funzione ampiamente prima di lanciarla al pubblico. Ha anche ammesso che le pratiche di utilizzo nel mondo reale sono difficili da simulare nella fase di test, ma l'azienda ha eseguito un robusto red-teaming e un campionamento di query tipiche degli utenti.
Leggi anche: La funzione Panoramica IA di Google affronta una reazione negativa per risultati inaccurati
Alcuni utenti e analisti di contenuti internet notano che Google ha recentemente iniziato a mostrare molti risultati da forum pubblici come Reddit. Alcuni mettono in discussione l'accordo dell'azienda con Reddit, ma un portavoce di Google ha detto alla BBC che tali termini non facevano parte dell'accordo per dare a Reddit una maggiore visibilità nei risultati di ricerca.
Lily Ray, vicepresidente della strategia e della ricerca SEO presso Amsive, un'agenzia di marketing, dice che ora, molte query mostrano risultati da Reddit. Ha anche preso in giro Google in un post su X (precedentemente Twitter), dicendo che tutta la conoscenza del mondo (contenuti di Reddit) è combinata con l'IA.
Signore e signori, tutta la conoscenza del mondo, combinata con il potere dell'IA e un troll di Reddit. pic.twitter.com/jhzT2pGXjh
— Lily Ray 😏 (@lilyraynyc) 18 mag. 21, 2024
Reid ha detto che la funzione Panoramica IA include contenuti sarcastici dai forum di discussione in alcuni esempi. Ha detto che i forum sono una buona fonte di informazioni di prima mano, ma in alcuni casi possono innescare risposte non così utili, come incollare il formaggio sulla pizza.
L'IA di Google interpreta anche male il linguaggio, il che porta a informazioni errate nelle Panoramiche IA, ma il rapporto per tali risposte è molto basso, secondo l'azienda. Reid ha notato che hanno risolto i problemi rapidamente attraverso miglioramenti o rimuovendo le risposte che non erano conformi alla politica di Google.
Il VP di Google Search ha anche detto che esistono forti protezioni per argomenti come la salute e le notizie. L'azienda ha lanciato nuovi affinamenti di attivazione per una protezione di qualità migliorata per la salute. Reid ha detto che il sistema di rilevamento è anche aggiornato per query nonsensiche in modo da non mostrarle come Panoramiche IA. Ha anche accennato alla conferma di meno Panoramiche IA per query satiriche, dicendo, "Abbiamo aggiornato i nostri sistemi per limitare l'uso di contenuti generati dagli utenti nelle risposte che potrebbero offrire consigli fuorvianti."
Reportage di Cryptopolitan a cura di Aamir Sheikh
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Aamir Sheikh
Aamir è un giornalista tecnologico con quasi sei anni di esperienza nei settori delle criptovalute e della tecnologia. Si è laureato presso l'Università MAJ con un MBA in Finanza e Marketing. Attualmente lavora per Cryptopolitan, dove si occupa delle ultime novità sui mercati delle criptovalute e delle previsioni sui prezzi.
