L'analista di Google avverte che le risposte dell'IA 'non sono perfette, non possono sostituire il tuo cervello'

L'analista di Google Gary Illyes ha avvertito che i modelli di linguaggio di grandi dimensioni – la tecnologia dietro i chatbot di IA generativa come ChatGPT – hanno ancora lacune di accuratezza e necessitano di un occhio umano per verificare i contenuti che producono. I commenti arrivano a pochi giorni dal lancio di SearchGPT, un nuovo motore di ricerca basato sull'IA che competirà direttamente con Google. 

Illyes ha condiviso i commenti su LinkedIn in risposta a una domanda ricevuta nella sua casella di posta, ma non ha detto qual era la domanda. Ha detto che le persone non dovrebbero fidarsi delle risposte dell'IA senza verificare altre fonti autorevoli. OpenAI mira a far crollare il dominio di Google nel mercato dei motori di ricerca con il suo strumento di ricerca.

Le risposte dell'IA non sono 'necessariamente corrette factualmente'

Illyes, che lavora in Google da oltre un decennio, ha detto che sebbene le risposte dell'IA possano essere vicine alla verità, non sono 'necessariamente corrette factualmente'. Questo perché i modelli di linguaggio di grandi dimensioni (LLM) non sono immuni dal nutrirsi di informazioni errate che circolano su internet, ha spiegato.

'In base ai loro dati di addestramento, gli LLM trovano le parole, le frasi e le frasi più adatte che si allineano con il contesto e il significato di un prompt', ha scritto Illyes. 'Questo consente loro di generare risposte pertinenti e coerenti. Ma non necessariamente corrette factualmente.'

L'analista di Google ha detto che gli utenti dovranno comunque convalidare le risposte dell'IA in base a ciò che 'conosci sull'argomento che hai chiesto all'LLM o su letture aggiuntive su risorse che sono autorevoli per la tua query.'

Un modo in cui gli sviluppatori hanno cercato di garantire l'affidabilità dei contenuti generati dall'IA è attraverso una pratica chiamata 'grounding'. Il processo prevede l'infusione di informazioni create dalla macchina con elementi umani per proteggersi dagli errori. Secondo Illyes, il grounding potrebbe non essere ancora sufficiente.

'Il grounding può aiutare a creare risposte più corrette factualmente, ma non è perfetto; non sostituisce il tuo cervello', ha detto. 'Internet è pieno di disinformazione intenzionale e non intenzionale, e non crederesti a tutto ciò che leggi online, quindi perché crederesti alle risposte dell'LLM?'

Elon Musk accusa Google di gatekeeping delle informazioni pubbliche

Tradizionalmente, la fiducia è sempre stata un problema con i motori di ricerca come Google e altre piattaforme di intelligenza artificiale e su come esercitano un certo controllo sulle informazioni che trasmettono agli utenti.

Uno di questi incidenti coinvolge il recente tentativo di assassinio dell'ex presidente degli Stati Uniti Donald Trump. Elon Musk ha suggerito che Google ha bandito l'incidento di sparatoria dai risultati della sua ricerca, scatenando un grande dibattito sui social media sulla portata del Big Tech.

Wow, Google ha un divieto di ricerca sul presidente Donald Trump!

Interferenza elettorale? pic.twitter.com/dJzgVAAFZA

— Elon Musk (@elonmusk) Luglio 29, 2024

Nella raffica di risposte, un account spoof che pretendeva di appartenere al vicepresidente di Google Ana Mostarac ha aggiunto al dibattito, condividendo una scusa falsa dell'azienda per presunta censura di contenuti su Trump.

'…I bisogni informativi delle persone continuano a crescere, quindi continueremo a evolvere e migliorare la Ricerca. Tuttavia, sembra che dobbiamo ricalibrare ciò che intendiamo per accurato. Ciò che è accurato è soggettivo, e la ricerca dell'accuratezza può ostacolare il fare le cose', ha pubblicato l'account falso su X.

'Puoi essere sicuro che il nostro team sta lavorando duramente per garantire che non lasciamo che il nostro riverenza per l'accuratezza sia una distrazione che ostacola la nostra visione per il futuro', ha aggiunto.

Le note della comunità su X hanno immediatamente segnalato il tweet, dicendo che la persona stava impersonando il vicepresidente di Google. Questo è un esempio di come le informazioni possano essere facilmente distorte e i modelli di IA potrebbero non essere in grado di discernere tra ciò che è accurato o meno senza revisione umana.