RAG访问外部知识库增强了LLMs处理知识密集型任务的能力，随着应用场景需求的增加，RAG系统变得更加复杂。传统的RAG依赖于简单的相似性检索，面对复杂查询和变化多端的文本块时表现不佳：对查询的浅层理解、检索冗余和噪声。

朴素RAG和高级RAG的案例。面对复杂问题时，两者都遇到了限制，难以提供令人满意的答案。尽管高级RAG通过分层索引、检索前和检索后的过程提高了检索精度，但这些相关文档并没有被正确使用。

提出了一种新的模块化RAG框架，通过将复杂的RAG系统分解为三层架构设计（模块、子模块和操作符）以统一和结构化的方式定义RAG系统，增强了系统的灵活性和可扩展性，这种框架超越了传统的线性架构，采用了集成路由、调度和融合机制的更先进设计。

当前模块化RAG的案例。该系统整合了多样化的数据和更多功能性组件。过程不再局限于线性，而是由多个控制组件控制检索和生成，使整个系统更加灵活和复杂。

模块化RAG框架与符号

L1 模块（Module）：RAG系统的核心过程。

L2 子模块（Sub-module）：模块内的功能模块。

L3 操作符（Operator）：模块或子模块中具体的功能实现。

模块化RAG模块和操作符

详细介绍了模块化RAG框架下的六个主要模块以及所使用的的具体技术：索引、检索前处理、检索、检索后处理、生成和编排。

三种RAG范式的比较。模块化RAG从之前的范式中发展而来，并与当前RAG系统的实际需求相一致。

将文档分割成易于管理的块，是系统组织的关键步骤。

面临的挑战包括内容表示不完整、块相似度搜索不准确和引用轨迹不清晰。

解决方案包括块优化（如调整块大小和重叠）、元数据附加和结构化组织。

技术包括：

查询扩展（Query Expansion）：通过扩展查询来丰富上下文，提高检索的相关性。

查询转换（Query Transformation）：对原始查询进行改写或转换以提高检索的准确性。

查询构建（Query Construction）：根据需要将查询转换为不同的查询语言，如SQL或Cypher，以访问结构化数据。

检索器选择（Retriever Selection）：根据任务需求选择合适的检索器，包括稀疏检索器、密集检索器和混合检索器。

检索器微调（Retriever Fine-tuning）：对检索器进行微调以适应特定领域的数据和术语。

重排（Rerank）：根据相关性对检索到的文档块进行重新排序。

压缩（Compression）：压缩检索到的内容，以减少噪声并提高LLM对关键信息的识别。

选择（Selection）：直接移除不相关或冗余的文档块。

生成器微调（Generator Fine-tuning）：根据特定领域或数据特性对生成器进行微调，以提高生成答案的质量。

验证（Verification）：通过知识库或模型基础的方法对生成的答案进行验证，以减少错误信息。

路由（Routing）：根据查询的类型或内容将查询定向到不同的处理流程。

调度（Scheduling）：管理RAG流程中的决策点，如何时进行检索或生成。

融合（Fusion）：整合来自多个分支的信息，以形成一个全面且一致的响应。

模块化RAG流程及其模式

详细探讨了模块化RAG系统中的工作流模式，即RAG流程（RAG Flow）及其模式（Flow Pattern）。

RAG Flow的定义：

RAG Flow是模块和操作符之间的协作，形成模块化RAG系统中的工作流程。

通过控制逻辑，操作符可以按照预定的管道执行，也可以在必要时执行条件、分支或循环操作。

RAG Flow Pattern：

识别并定义了一组常见的RAG流程模式，这些模式跨越不同的应用领域，展现出高度的一致性和可重用性。

RAG流程模式可以定义为一系列模块的有序连接，每个模块包含一组操作符。

最简单且最常用的模式，模块按照固定的顺序执行。

线性RAG流程模式。每个模块按固定的顺序依次处理。

技术包括查询转换（Query Transform Module）、检索（Retrieval）、重排（Rerank）、生成（Generation）。

例如，RRR（RewriteRetrieve-Read）模型，它在检索前引入了一个可学习的查询改写模块。

RRR是一种典型的线性流程，它在检索之前引入了一个可学习的查询重写模块。该模块基于大型语言模型（LLM）的输出结果进行强化学习。

根据不同的条件选择不同的RAG管道。

通过路由模块决定流程的下一个模块。

条件流程模式。存在一个路由模块，它控制查询被导向哪个 RAG 流程。通常，不同的流程用于不同的配置，以满足 RAG 系统的一般要求。

RAG流程可能有多个并行运行的分支，通常是为了增加生成结果的多样性。

分为检索前分支（Pre-retrieval Branching）和检索后分支（Post-retrieval Branching）。

检索前分支模式（Pre-retrieval Branching Pattern）:

技术包括查询扩展（Query Expansion）、并行检索（Parallel Retrieval）、生成（Generation）、合并（Merge）。

检索前分支流程模式。每个分支分别执行检索和生成，然后在最后进行聚合。

检索后分支模式（Post-retrieval Branching Pattern）:

技术包括单一查询检索（Single Query Retrieval）、并行生成（Parallel Generation）、合并（Merge）。

检索后分支流程模式。只执行一次检索，然后对每个检索到的文档块分别进行生成，随后进行聚合。

REPLUG中的 RAG 流程，遵循典型的检索后分支模式。每个检索到的块都经历并行生成，然后使用加权概率集合进行聚合。

涉及检索和生成步骤的相互依赖，通常包括一个调度模块来控制流程。

包括迭代检索（Iterative Retrieval）、递归检索（Recursive Retrieval）、自适应检索（Adaptive Retrieval）。

循环流程模式。通常，RAG 系统执行多轮检索和生成。它可以被分类为三种形式：迭代、递归和自适应。

ITER-RETGEN是一种典型的迭代结构。在最大迭代次数的限制内执行多轮检索和生成。

ToC的 RAG 流程。这个过程的一个典型特点是，每次递归检索都使用前一步生成的新查询，从而逐步深化对原始复杂查询的分析。

自适应检索：FLARE的RAG流程。生成的临时答案将进行置信度评估。如果它未达到所需的置信度水平，流程将返回到检索阶段并重新生成。评估标准是通过提示实现的。

自适应检索：SELF-RAG的RAG流程。首先，它提示 GPT-4 获取一个合适的指令微调数据集，以微调部署的开源大型语言模型（LLM）。这允许模型在生成过程中输出四个特定的令牌，这些令牌用于控制 RAG 流程。

RAG不断整合更多的LLM相关技术，其中许多组件由可训练的语言模型组成。

通过微调，可以进一步优化组件的性能和与整体流程的兼容性。

包括检索器微调（Retriever Fine-tuning）、生成器微调（Generator Fine-tuning）、双重微调（Dual Fine-tuning）。

检索器微调模式，主要包括直接的直接微调（SFT）、添加可训练的适配器、受语言模型监督的检索和基于大型语言模型（LLM）奖励的强化学习（RL）。

生成器微调模式，主要方法包括直接微调（SFT）、蒸馏以及来自大型语言模型（LLM）/人类反馈的强化学习（RL）。

双重微调模式。在这种模式下，检索器和生成器都参与微调，它们的偏好将被对齐。

最后，PaperAgent团队也根据在RAG方面的实践经验，梳理了一张模块化RAG全景框架图，共计8个模块，36种技术：

PaperAgent-RAG专栏试看：

RAG: Transforming RAG Systems into LEGO-like Reconfigurable Frameworks

本文转载自​​，作者：​​