LangChain vs LlamaIndex 架构差异？
架构差异与典型场景对比,帮你快速决策
原题：LangChain与LlamaIndex在架构设计和核心功能上各有侧重，请比较两者的主要差异，并说明它们分别适用于哪些典型的应用场景。
RAG基础 · 阿里真题
回答与解析
核心定位差异
| 维度 | LangChain | LlamaIndex |
|---|---|---|
| 设计目标 | 通用LLM应用编排框架 | 数据驱动的检索增强框架 |
| 核心抽象 | Chain（链式调用）、Agent（自主决策） | Index（索引结构）、Retriever（检索器）、QueryEngine（查询引擎） |
| 优势领域 | 复杂工作流编排、多工具Agent | 大规模文档索引、结构化检索 |
关键功能对比
LangChain强项
- Agent系统：ReAct、Plan-and-Execute等推理模式，支持工具调用与多轮决策
- 模块化链：通过LCEL灵活组合Prompt、Model、Parser等组件
- 生态集成：广泛的第三方工具连接器（搜索、数据库、API等）
LlamaIndex强项
- 索引策略：VectorStoreIndex、TreeIndex、KGIndex等10+种索引结构
- 检索优化：自动路由、重排序、递归检索、子问题分解
- 数据连接器：150+种数据源开箱即用（PDF、SQL、Notion等）
选型建议
| 场景 | 推荐框架 | 原因 |
|---|---|---|
| 多步骤Agent（数据分析→生成报告→邮件发送） | LangChain | 需要复杂的状态管理和工具编排 |
| 百万级文档知识库问答 | LlamaIndex | 索引分层、查询优化、响应速度更优 |
| 快速原型验证 | 两者皆可 | LlamaIndex上手更快，LangChain更灵活 |
| 生产级混合系统 | 组合使用 | LlamaIndex管检索，LangChain管Agent编排 |
实际项目中常见模式：用LlamaIndex构建高质量检索管道，通过LangChain的create_retriever_tool将其封装为工具，供Agent调用。
学习建议
建议系统学习该知识点
口语版讲法(约4分钟)
- 本质是问LLM应用的两条路：工作流编排 vs 数据检索
- LangChain核心是Agent和Chain，适合多步骤复杂任务
- LlamaIndex核心是索引和检索，适合大规模文档问答
- 实际落地常组合使用，并注意检索质量和成本风险
- 我会倾向数据驱动，把LangChain当调度层
这道题其实是在问，LLM应用落地时，到底该走工作流编排的路，还是数据检索的路。LangChain和LlamaIndex正好代表这两种思路。我先说一句话定位：LangChain是通用编排框架，LlamaIndex是数据检索框架，它们不是替代关系，而是互补关系。
具体说一下。LangChain的设计核心是Chain和Agent，它擅长把多个步骤串起来，比如先调个API查数据，再让LLM分析，最后发邮件。你可以把它理解成一个调度中心，负责协调各种工具和模型。它的强项是Agent系统，像ReAct模式，能自主决策，还有LCEL这种灵活的组合方式。但它的数据检索能力相对薄弱，要自己做很多拼接。
LlamaIndex正好反过来。它一上来就聚焦文档索引和检索，提供了十几种索引结构，比如VectorStoreIndex、TreeIndex，还有150多种数据连接器，PDF、SQL、Notion什么的直接就能用。它的检索优化很细，自动路由、重排、子问题分解都内置了。但它的工作流编排能力不强，要写很多胶水代码。
举个例子，企业里做个客服退款流程。如果只是问知识库，比如“根据SOP，退款条件是什么”，LlamaIndex一把梭，索引建好，直接检索回答，又快又准。但如果流程是“先查订单状态，再判断是否超期，然后调用退款API，最后发通知邮件”，这就是LangChain的菜，因为它需要多步决策和工具调用。
所以说，边界很清楚：数据密集、检索为主的任务，LlamaIndex；流程复杂、多工具协同的任务，LangChain。但真正落地时，往往两者一起上。常见模式是：用LlamaIndex构建高质量检索管道，然后通过LangChain的create retriever tool把它封装成一个工具，供Agent调用。这样既能拿到精准的检索结果，又能灵活编排后续动作。
这里有个坑。很多人以为把LlamaIndex的检索结果直接塞给LangChain的Agent就完事了，但实际效果可能很差。因为Agent会误解检索结果，或者为了完成任务编造信息，导致Hallucination。所以上线前我会特别关注两点：一是检索结果的质量，LlamaIndex那边要调好Chunk大小和重排策略，确保召回的是真正相关的内容；二是Agent的指令约束，要明确告诉Agent“只基于检索结果回答，不要自己发挥”，必要时用Self-RAG让模型自己学会反思。
还有一个值得注意的点：当数据量超过百万级时，LlamaIndex的索引构建和更新会成为瓶颈，这时候要考虑分层索引或增量更新，否则检索延迟会飙升。
所以我的判断是，我更倾向数据驱动的思路。因为LLM应用的核心瓶颈往往不是流程复杂，而是数据质量和检索精度。我会把LlamaIndex作为数据底座，LangChain作为上层的调度层。如果只能选一个，我选LlamaIndex，因为大多数场景下，先把检索做好，比先把流程做复杂更重要。
关键一句:百万级数据量时LlamaIndex的索引构建和更新会成为瓶颈，需要分层或增量方案
面试官还可能这样问
- 问法 1 · 场景切入
假设你有个电商客服机器人，用户问“我的订单到哪了”，你得先查订单系统。如果用LangChain或LlamaIndex来做，你会选哪个？为什么？
- 问法 2 · 层层追问
做RAG应用时，你怎么组织知识库的检索？……如果文档有几百万篇，怎么保证检索速度和准确性？……那LangChain和LlamaIndex分别适合哪类场景？
- 问法 3 · 直球架构
比较LangChain和LlamaIndex的核心差异，包括设计目标、核心抽象和适用场景，说说你选型的依据。