中文知识库检索选型
中文知识库中按专名和语义查询做实战选型，补充适用边界与工程取舍
原题：请列举并说明RAG（Retrieval-Augmented Generation）系统中常用的检索方法，包括基于稠密向量检索和稀疏检索的技术及其优缺点。
向量检索 · 小红书真题
回答与解析
RAG检索方法主要分为稀疏检索和稠密检索两类，实际生产环境常采用混合方案。
一、稀疏检索：BM25 / TF-IDF
原理：基于词项精确匹配，计算query与文档的词频、逆文档频率相关性。
优点：
- 零训练成本，即插即用
- 对关键词匹配精准（如商品ID、专业术语）
- 索引轻量，CPU即可 serving
缺点：
- 无法捕捉语义相似（"苹果手机"≠"iPhone"）
- 对长尾query、口语化表达效果差
二、稠密检索：DPR / ColBERT
DPR（Dense Passage Retrieval）
- 双塔结构，query和文档分别编码为固定维度向量
- 用FAISS/ Milvus做ANN近似检索，牺牲少量精度换速度
- 瓶颈：向量压缩后信息损失，细粒度匹配能力弱
ColBERT
- Late Interaction机制：token-level向量保留到最后一刻交互
- MaxSim操作捕捉细粒度对齐，精度显著优于DPR
- 代价：存储膨胀（需存文档所有token向量），延迟更高
三、工程落地建议
| 场景 | 方案 |
|---|---|
| 关键词强相关（电商搜索） | BM25为主 |
| 语义理解优先（问答、客服） | 稠密检索+微调 |
| 通用场景 | Hybrid：BM25召回+稠密向量重排，或两路召回融合 |
小红书UGC场景的特殊性：内容口语化、多模态（图文），稠密向量建议用对比学习微调，负样本采"难负例"（同batch其他样本+BM25高分离散样本）。
学习建议
建议先掌握信息检索基础，再深入学习稠密与稀疏检索模型原理及典型实现。
口语版讲法(约4分钟)
- 一句话定位：RAG检索本质是语义与关键词的博弈
- 稀疏检索：BM25的适用场景与局限
- 稠密检索：DPR与ColBERT的取舍
- 落地建议：混合策略与常见坑
- 给出可延伸点：向量维度与检索精度的关系
这道题其实在问一个很本质的问题：RAG系统里，你到底用什么方式把用户问题和知识库里的内容连接起来。说白了，就是检索这一步，你是靠关键词硬匹配，还是靠语义向量找意思相近的。两种思路各有各的舞台，真正落地的时候，大部分场景都是混着来的。
先说稀疏检索，最典型的就是 BM25 和 TF-IDF。它的核心是精确匹配关键词，优点特别明显：零训练成本，拿来就能用，索引也轻，CPU就能跑。比如电商场景搜订单号、商品ID，或者企业内部搜政策文档编号，这种场景下向量检索反而容易跑偏，BM25基本不会出错。但它的死穴是没法处理语义相似，用户说‘苹果手机’，文档里写‘iPhone’，BM25就断了。再比如口语化的客服问题，‘我买的东西一直没到’和‘物流异常’，BM25很难把它们关联起来。所以它适合关键词强相关的场景，不适合语义理解。
再来说稠密检索，也就是 Dense Retrieval。现在主流的有DPR和ColBERT两种思路。DPR是双塔结构，把query和文档都编码成一个固定维度的向量，然后用 Faiss 或者 Milvus 做 ANN 近似检索。好处是能抓语义相似，但坏处也很明显：压缩成一个向量后，细粒度的匹配信息就丢了。比如‘红颜色的裙子’和‘裙子是红色的’，DPR能对上，但‘苹果手机充电器’和‘iPhone充电头’，DPR可能就不如ColBERT。ColBERT走的是 Late Interaction 路线，它保留文档里每个token的向量，最后再做细粒度的 MaxSim 操作，精度确实更高。但代价是存储量爆炸，要存所有token向量，延迟也上去了。所以ColBERT更适合对精度要求极高、但对延迟不那么敏感的场景，比如法务合同审核。
那真实落地怎么选呢？我一般会看场景。如果是电商搜索，关键词强相关，我会以BM25为主，稠密检索做补充。如果是智能客服、知识问答这类语义理解优先的，我会用稠密检索，而且最好是微调过的。但大部分通用场景，我倾向走 Hybrid Search，就是两路召回：BM25出一批，稠密向量出一批，然后用 Rerank 模型或者规则融合。这里有个坑：稠密向量的质量很大程度上取决于Embedding模型是不是在目标数据上调过。如果直接拿通用模型，比如BERT，去搜小红书那种口语化、带表情、图文混排的内容，召回率会很难看。所以我上线前一定会做对比实验，拿一批真实query，人工标注相关文档，算 Recall@K。如果召回率不达标，我会考虑用对比学习微调，负样本采‘难负例’，比如同batch其他样本或者BM25高分但不相关的文档。
还有一个点值得注意：向量的维度选择对检索精度和存储成本影响很大。比如你用768维还是384维，在召回率上差异可能不大，但索引大小和查询延迟能差好几倍。这个取舍在实际工程里特别关键，但不是所有场景都需要高维向量。
所以总结下来，我会把RAG检索看成一场‘关键词与语义’的平衡游戏。没有银弹，只有根据场景做取舍。我更倾向于先搭一套混合检索的基线，然后基于badcase分析，看是语义还是关键词拖了后腿，再针对性优化。
关键一句:向量维度选择对检索精度和存储成本的影响
面试官还可能这样问
- 问法 1 · 场景切入
假设你在做电商客服机器人，用户问“苹果手机多少钱”，你从知识库检索到iPhone15的报价。那如果用户换个问法说“那个水果牌手机呢”，BM25可能就匹配不上了，你怎么办？
- 问法 2 · 层层追问
RAG系统里检索这块你一般用什么方法？……那BM25有什么缺点？……如果遇到语义匹配的场景，你还会用哪些检索方式？它们各自有什么优劣？
- 问法 3 · 直球架构
请系统性地列举RAG系统中常用的检索方法，包括稀疏检索和稠密检索，并说明各自的原理和优缺点。