O que é Geração Aumentada por Recuperação, ou RAG?

A precisão e a confiabilidade dos modelos de IA generativa podem ser melhoradas pelos fatos obtidos de fontes externas, e a técnica usada para buscá-los é chamada de geração aumentada por recuperação (RAG).

Para uma compreensão simples, digamos que um bom modelo de linguagem grande (LLM) pode responder a uma ampla gama de consultas humanas. Mas para respostas credíveis, deve haver algumas fontes citadas nelas, e para esse fim, ele precisa fazer alguma pesquisa, então o modelo precisará de um assistente. Esse processo de assistência é chamado de geração aumentada por recuperação, ou RAG, para facilitar.

Compreendendo a geração aumentada por recuperação, ou RAG

Para entender melhor o RAG, ele preenche as lacunas que já existem no funcionamento dos LLMs. A qualidade ou o poder de um LLM é medido pelo número de parâmetros que possui. Os parâmetros são basicamente os padrões gerais de como os humanos usamos palavras para formar frases. Os LLMs podem ser inconsistentes nas respostas que fornecem. 

Às vezes, eles fornecem a informação exata que o usuário precisa e, outras vezes, apenas geram fatos e números aleatórios dos conjuntos de dados incluídos em seu treinamento. Se, em algumas ocasiões, os LLMs dão respostas vagas, como se não soubessem o que estão dizendo, é porque realmente não têm ideia do que estão dizendo. Como mencionamos os parâmetros na linha anterior, os LLMs podem relacionar palavras estatisticamente, mas não conhecem seus significados.

A integração do RAG em sistemas de chat baseados em LLMs tem dois benefícios principais: garante que o modelo possa acessar fatos atuais e confiáveis, e também assegura que os usuários possam verificar a confiabilidade de suas alegações, pois têm acesso às fontes do modelo.

Luis Lastras, diretor de Tecnologias de Linguagem na IBM Research, disse:

“Você quer cruzar as respostas do modelo com o conteúdo original para ver em que ele está baseando sua resposta.”

Fonte: IBM.

Existem outros benefícios também, pois reduz as chances de alucinações e vazamento de dados, já que tem a oportunidade de basear seu conhecimento em fontes externas, não precisando depender exclusivamente dos dados em que foi treinado. O RAG também reduz os custos financeiros e computacionais de execução de chatbots, pois há menos necessidade de treinamento com novos dados.

Benefícios do RAG

Tradicionalmente, os modelos de conversa digital usavam uma abordagem de diálogo manual. Eles estabeleciam sua compreensão da intenção do usuário, buscavam as informações com base nisso e forneciam respostas em um roteiro geral já definido pelos programadores. Esse sistema era capaz de responder a perguntas simples e diretas. No entanto, o sistema tinha limitações.

Fornecer respostas para cada consulta que um cliente possa fazer era demorado; se o usuário pulasse uma etapa, o chatbot não tinha capacidade de lidar com a situação e improvisar. No entanto, a tecnologia atual tornou possível que os chatbots forneçam respostas personalizadas aos usuários sem a necessidade de escrever novos scripts por humanos, e o RAG leva isso um passo adiante, mantendo o modelo atualizado com conteúdo fresco e reduzindo a necessidade de treinamento. Como disse Lastras:

“Pense no modelo como um funcionário júnior excessivamente ansioso que solta uma resposta antes de verificar os fatos; a experiência nos ensina a parar e dizer quando não sabemos algo. Mas os LLMs precisam ser explicitamente treinados para reconhecer perguntas que não podem responder.”

Fonte: IBM.

Como sabemos, as perguntas dos usuários nem sempre são diretas; podem ser complexas, vagas e prolixas, ou exigir informações que o modelo não possui ou não consegue analisar facilmente. Nessas condições, os LLMs podem alucinar. O ajuste fino pode prevenir esses casos, e LLMs podem ser treinados para parar quando enfrentam essa situação. Mas será necessário alimentá-los com milhares de exemplos desse tipo de pergunta para reconhecê-las.

O RAG é o melhor modelo atualmente disponível para basear os LLMs nos dados mais recentes e confirmáveis, além de reduzir o treinamento. O RAG também está se desenvolvendo com o tempo e ainda precisa de mais pesquisa para eliminar imperfeições.