Cos'è la Generazione Aumentata per Recupero, o RAG?

L'accuratezza e l'affidabilità dei modelli di IA generativa possono essere migliorate dai fatti ottenuti da fonti esterne, e la tecnica utilizzata per recuperarli è chiamata generazione aumentata per recupero (RAG).

Per una comprensione semplice, diciamo che un buon modello linguistico di grandi dimensioni (LLM) può rispondere a una vasta gamma di query umane. Ma per risposte credibili, devono esserci alcune fonti citate in esse, e per questo scopo, deve fare alcune ricerche, quindi il modello avrà bisogno di un assistente. Questo processo di assistenza è chiamato generazione aumentata per recupero, o RAG, per semplicità.

Comprendere la generazione aumentata per recupero, o RAG

Per comprendere ulteriormente il RAG, colma le lacune che già esistono nel lavoro dei LLM. La qualità o la potenza di un LLM è misurata dal numero di parametri che possiede. I parametri sono essenzialmente i modelli generali di come gli esseri umani usano le parole per formare frasi. I LLM possono essere incoerenti con le risposte che forniscono. 

A volte forniscono le informazioni esatte di cui l'utente ha bisogno, e a volte producono semplicemente fatti e cifre casuali dai dataset inclusi nel loro addestramento. Se a volte i LLM danno risposte vaghe, come se non sapessero cosa stanno dicendo, è perché realmente non hanno idea di cosa stanno dicendo. Come abbiamo parlato di parametri una riga sopra, i LLM possono correlare le parole statisticamente, ma non ne conoscono i significati.

L'integrazione del RAG nei sistemi di chat basati su LLM ha due principali vantaggi: assicura che il modello possa accedere a fatti attuali e affidabili, e garantisce anche che gli utenti possano verificare che le sue affermazioni siano attendibili, poiché hanno accesso alle fonti del modello.

Luis Lastras, direttore delle Tecnologie Linguistiche presso IBM Research, ha dichiarato:

"Vuoi incrociare le risposte di un modello con il contenuto originale per vedere su cosa basa la sua risposta."

Fonte: IBM.

Ci sono anche altri benefici, poiché riduce le possibilità di allucinazioni e fughe di dati, poiché ha l'opportunità di basare la sua conoscenza su fonti esterne, quindi non deve fare affidamento esclusivamente sui dati su cui è stato addestrato. Il RAG riduce anche i costi finanziari e computazionali dell'esecuzione dei chatbot, poiché ha meno bisogno di essere addestrato su nuovi dati.

Vantaggi del RAG

Tradizionalmente, i modelli di conversazione digitale utilizzavano un approccio dialogico manuale. Stabilivano la loro comprensione dell'intento di un utente, quindi recuperavano le informazioni su quella base e fornivano risposte in uno script generale già definito dai programmatori. Questo sistema era in grado di rispondere a domande semplici e dirette. Tuttavia, il sistema aveva delle limitazioni.

Fornire risposte a ogni query che un cliente potrebbe potenzialmente richiedere richiedeva tempo; se l'utente saltava un passaggio, il chatbot non aveva la capacità di gestire la situazione e improvvisare. Tuttavia, la tecnologia odierna ha reso possibile per i chatbot fornire risposte personalizzate agli utenti senza la necessità di scrivere nuovi script da parte degli esseri umani, e il RAG fa un passo ulteriore mantenendo il modello su contenuti freschi e riducendo la necessità di addestramento. Come ha detto Lastras,

"Pensa al modello come a un dipendente junior troppo entusiasta che sputa fuori una risposta prima di controllare i fatti; l'esperienza ci insegna a fermarci e dire quando non sappiamo qualcosa. Ma i LLM devono essere esplicitamente addestrati a riconoscere le domande a cui non possono rispondere."

Fonte: IBM.

Come sappiamo, le domande degli utenti non sono sempre semplici; possono essere complesse, vaghe e prolisse, o richiedere informazioni che il modello non possiede o non può facilmente analizzare. In tali condizioni, i LLM possono allucinare. Il fine-tuning può prevenire questi casi, e i LLM possono essere addestrati a fermarsi quando si trovano di fronte a una situazione del genere. Ma dovranno essere alimentati con migliaia di esempi di tali domande per riconoscerli.

Il RAG è il miglior modello attualmente disponibile per basare i LLM sui dati più recenti e più confermati e anche per ridurre l'addestramento. Il RAG si sta anche sviluppando nel tempo e ha ancora bisogno di più ricerca per risolvere le imperfezioni.