RAG 流程各阶段怎么拆?

回答与解析

RAG完整工作流程

1. 查询预处理阶段

• Query改写：识别用户意图，扩展同义词，澄清指代消解
• Query分解：复杂问题拆分为子查询，分别检索后聚合
• 多语言/拼写纠错：确保检索侧和文档侧语义对齐

2. 检索阶段（粗排）

• 向量检索：Embedding模型将Query编码，从向量库召回Top-K（通常50-100）
• 稀疏检索：BM25/TF-IDF作为补充，捕获关键词精确匹配
• 混合检索：向量分数+稀疏分数加权融合，兼顾语义和字面

3. 重排序阶段（精排）

• Cross-Encoder：Query+Document拼接输入，输出相关性分数，精度高但计算慢
• 精排Top-N：从粗排结果中选出最终5-10篇送入生成
• 去重与多样性控制：MMR算法避免内容重复，保证信息覆盖度

4. 上下文构建

• 文档截断/压缩：按相关性加权拼接，超长时优先保留高相关片段
• 结构化注入：标注来源、时间、标题等元信息，便于溯源
• Prompt模板：固定格式包裹检索结果，明确区分系统指令、上下文、用户问题

5. 生成阶段

• 约束生成：通过Prompt要求模型基于上下文回答，不确定时明确拒绝
• 引用标注：输出中标注信息来源段落编号
• 后处理校验：事实一致性检测，冲突信息过滤

6. 异常处理

• 检索为空或分数过低 → 触发直接生成/联网搜索/提示用户补充信息
• 生成超时 → 返回检索摘要+建议追问

学习建议

建议系统学习该知识点

口语版讲法(约4分钟)

• 本质是解决大模型知识时效性与幻觉问题
• 检索阶段：混合检索应对不同场景
• 重排序：用Cross-Encoder做精排
• 上下文构建：截断与结构化注入
• 生成阶段：约束生成与引用标注
• 落地风险：检索失败与一致性校验

这道题问的是RAG的完整工作流，其实本质是在问：怎么把大模型的知识边界和实时性不足这个短板，用外部知识库补上，同时还要控制幻觉。不是简单拼凑，而是每个环节都要做取舍。

先说检索之前，有个预处理。用户的问题往往不规整，比如“上次那个退款怎么还没到”，这里“上次”指代什么？得先做查询改写，把指代消解掉，拆成“订单号xxx的退款进度”。这一步不做，后面检索全是错的。

然后进入检索，这是最核心的部分。很多人以为向量检索就够，但实际落地，纯向量语义检索在专有名词、订单号、政策条款号上几乎必挂。我一般用 Hybrid Search，把向量召回和 BM25 关键词召回结合起来，分数加权融合。举个例子，客服场景里用户问“满200减30怎么用”，向量能理解“满减”语义，但BM25能精准匹配活动ID或商品SKU，两条腿走路才稳。

检索出来Top-K比如100条，不能全扔给大模型，上下文窗口有限，而且噪声多。所以第二步是重排序。这里我会用 Cross-Encoder 做精排，把query和每个文档拼接打分，虽然慢，但精度高。粗排是 Bi-Encoder 快速筛，精排用Cross-Encoder挑出最相关的5-10条。这里有个坑：重排序分数低的不直接丢掉，要设个置信度阈值，低于阈值的触发兜底逻辑，比如告诉用户“没找到相关信息，请换个问法”。

接下来是上下文构建。文档长度不一，不能硬塞。我会按相关性排序后拼接，超长时做截断，优先保留高相关片段而不是开头。同时把来源、时间、标题这些元信息结构化注入，方便生成时引用。Prompt模板也很关键，要明确区分系统指令、检索结果和用户问题，否则模型容易混淆。

生成阶段，我会约束模型必须基于检索结果回答，不确定时明确说“根据已有资料无法回答”，而不是瞎编。同时要求输出引用标注，比如“[1][2]”，方便溯源。最后做一次后处理校验，检查生成内容与检索结果的事实一致性，冲突时过滤掉。

还有一个点值得注意：当检索结果为空或置信度极低时，是直接拒绝还是触发联网搜索？我倾向先拒绝，因为RAG的目标是可控性，联网搜索会引入不可控风险。但如果业务允许，可以设计一个降级策略，比如提示用户补充关键词。

整体上，我会把RAG看成一个检索增强的闭环系统，不是简单的管道。每个环节的失败场景都要有预案，比如知识库更新不及时导致旧政策被检索出来，这时需要版本控制或时间戳过滤。上线前，我会用 RAGAS 这类工具评估 Faithfulness 和 Context Recall，保证回答既忠实于检索内容，又覆盖了必要信息。

关键一句:检索结果为空或置信度低时，倾向拒绝而非联网搜索，以保证可控性

面试官还可能这样问

1. 问法 1 · 场景切入

   假设你做一个电商智能客服,用户问“这个订单发货了吗”,系统怎么从知识库里找到对应订单信息,再结合上下文给出带来源的回复?你把从提问到生成答案的完整链路讲一遍。

2. 问法 2 · 层层追问

   RAG系统里用户问题来了以后,第一步你会做什么处理?……然后怎么从库里召回相关文档?……召回了top100,怎么筛出最相关的5篇?……最后怎么把这些文档和问题拼在一起让模型回答?

3. 问法 3 · 直球架构

   设计一个RAG系统,要求从前端用户提问到后端生成答案,涵盖查询改写、混合检索、重排序、上下文注入和生成,你详细说说每一阶段怎么做,用什么技术?