什么是检索增强生成（RAG）？

通过从外部来源获取的事实可以提高生成式人工智能模型的准确性和可靠性，用于获取这些事实的技术称为检索增强生成（RAG）。

为了简单理解，假设一个好的大型语言模型（LLM）可以回答广泛的人类查询。但对于可信的答案，其中必须引用一些来源，为此，它需要进行一些研究，因此模型需要一个助手。这种辅助过程称为检索增强生成，简称RAG，以便于理解。

理解检索增强生成（RAG）

为了进一步理解RAG，它填补了LLM作品中已经存在的空白。LLM的质量或能力由其拥有的参数数量来衡量。参数基本上是我们人类如何使用单词造句的一般模式。LLM提供的答案可能不一致。 

有时它们提供用户需要的确切信息，有时它们只是从训练数据集中随机生成事实和数字。如果有时LLM给出模糊的答案，就像它们不知道自己说什么一样，那是因为它们真的不知道自己在说什么。正如上面提到的参数，LLM可以统计地关联单词，但它们不知道单词的含义。

将RAG集成到基于LLM的聊天系统中有两个主要好处：它确保模型可以访问当前且可靠的事实，并确保用户可以验证其声明是可信的，因为他们可以访问模型的来源。

IBM研究语言技术总监Luis Lastras表示：

“您希望将模型的答案与原始内容进行交叉引用，以便查看其答案基于什么。”

来源： IBM.

还有其他好处，因为它减少了幻觉和数据泄露的机会，因为它有机会基于外部来源建立知识，因此不必完全依赖其训练数据。RAG还降低了运行聊天机器人的财务和计算成本，因为它对新数据训练的需求较少。

RAG的好处

传统上，数字对话模型使用手动对话方法。它们建立对用户意图的理解，然后据此获取信息，并提供由程序员预先定义的一般脚本中的答案。该系统能够回答简单、直接的问题。然而，该系统存在局限性。

回答客户可能提出的每个查询都很耗时，如果用户遗漏了一个步骤，聊天机器人就缺乏处理情况和即兴发挥的能力。然而，今天的科技使得聊天机器人无需人类编写新脚本即可向用户提供个性化回复，而RAG通过让模型保持最新内容并减少对训练的需求，将其推向了新的高度。正如Lastras所说：

“将模型视为一个急于在核实事实之前脱口而出答案的初级员工，经验告诉我们，当我们不知道某事时，应该停下来并说出来。但LLM需要明确训练以识别它们无法回答的问题。”

来源：IBM。

正如我们所知，用户的问题并不总是直截了当的，它们可能复杂、模糊且冗长，或者需要模型缺乏或难以解析的信息。在这种情况下，大型语言模型（LLMs）可能会产生幻觉。微调可以防止这些情况的发生，并且 LLMs 可以在面对此类情况时被训练为停止回答。但这需要输入数千个此类问题的示例才能识别它们。

RAG是目前可用的最佳模型，它使LLM能够基于最新和最可确认的数据，并降低训练成本。RAG也在随时间发展，仍需要更多研究来消除不完美之处。