大模型技术栈全景：RAG / Agent / 微调 / 推理 / 评估各是什么、面试考多少、怎么学

大模型应用开发不是学"一个东西"，而是一张地图：RAG、Agent、Prompt 与上下文、评估与监控、重排与检索、模型微调、推理部署几个方向，各自解决不同问题、考察热度也差很多。转行者最该避免的坑是"全都学一遍"，正确做法是按面试频率和自己的背景挑一条主线做深。这一页就是全站技术地图的枢纽，帮你先看清全貌再决定学哪条。 作者：吴师兄 | 适合：刚决定转大模型、面对一堆名词不知从哪下手的人 | 前置：知道应用岗和算法岗的区别，看过路线图 大模型技术栈到底有哪些方向 应用开发这一侧，常见方向可以归成七类，每一类解决的问题不同，面试考的密度也不同。下面这张全景表是本页核心，题量取自站内题库的模块分布，能直接反映"这个方向面试考多少"。 | 方向 | 是什么 / 解决什么问题 | 面试频率(站内题量) | 代表题库模块 | 代表教程章 | |---|---|---:|---|---| | RAG 检索增强 | 让模型基于你的知识库回答，解决"胡说、没有企业数据"的问题，应用岗高频方向 | RAG 基础 62 | RAG 基础题库 | RAG 智能问答系统教程 | | 重排与检索优化 | RAG 里"召回准不准"的关键环节，效果好坏经常卡在这 | 重排与优化 70、向量检索 49 | 重排与优化题库 | 重排章 | | Agent 智能体 | 让模型能规划、调工具、多步完成任务，当前最热且和 RAG 衔接 | Agent 154 | Agent 题库 | Deep Research Agent 教程 | | Prompt 与上下文 | 怎么把任务、约束、上下文喂给模型，应用开发的高频入口 | Prompt 工程 77 | Prompt 工程题库 | AI 编程实操 | | 评估与监控 | 没评估就无法上线迭代，贯穿所有方向的地基 | 评估与监控 121 | 评估与监控题库 | 评估章 | | 模型微调 / 对齐 | 用自己的数据改模型行为，偏算法侧、按岗位选修 | 模型微调 47、模型训练 43、RLHF 与对齐 27 | 模型微调题库 | 训练章 | | 推理与部署 | 让模型跑得快、稳、省，工程和平台岗更看重 | 推理优化 23、模型架构 49 | 推理优化题库 | 服务化章 | 还有几个偏场景/数据的模块：知识图谱 35、多模态 34、文档处理 29，它们通常挂在 RAG 或具体业务里出现，不构成独立主线，遇到目标岗位强相关时再补即可。 这张表最重要的读法不是"题多的就都学"，而是：题量密集的方向(Agent、评估、Prompt、重排、RAG)是应用岗追问的核心区，几乎人人躲不过；题量少但门槛高的方向(微调、训练、推理优化)偏算法/平台岗，按目标岗位决定要不要碰。 换个角度：技术栈其实是四层 上面那张表是"横着切"的方向，再补一个"竖着切"的分层视角会更好定位自己。把大模型应用开发的技术栈从上到下拆成四层，你能看清"面试官追问的问题分别落在哪一层"，也能判断自己该往哪层做深。 | 层 | 负责什么 | 关键能力 / 组件 | 站内承接 | 谁更该往这层做深 | |---|---|---|---|---| | 应用层 | 直接面向用户/业务的形态 | RAG 问答、Agent、AI Coding、企业知识库、研究助手 | RAG 智能问答系统、Deep Research Agent、AI 编程实操 | 两条线都要有一个 | | Agent Harness 层 | 让 Agent 稳定跑起来的工程骨架 | 状态管理、工具注册、权限确认、trace、replay、错误恢复、成本控制 | Agent 题库、工具与函数调用章、记忆管理章 | 开发/Java 后端线的主场 | | Data / Eval 层 | 决定"效果好不好"能不能被证明 | 文档解析、Embedding、Rerank、评估集、LLM-as-Judge、badcase 闭环 | 评估与监控题库、文档处理、评估章 | 两条线都绕不开，算法线更深 | | Training / Post-Train 层 | 用数据改模型本身的行为 | SFT、LoRA、DPO/GRPO、工具调用轨迹数据 | 模型微调题库、RLHF 与对齐、训练章 | 算法/研究生线选修，应用线按岗位 | 这个分层的用处在于对号入座：开发/Java 后端线的杠杆在中间两层，把 Agent Harness 的工程骨架(权限、trace、失败恢复、成本)和 Data/Eval 的评估闭环做扎实，正好吃你的服务化和稳定性经验；算法/研究生线则往下沉，把 Data/Eval 的评估设计和 Training/Post-Train 的数据与训练做深。两条线在应用层和 Data/Eval 层大量重叠，这也是为什么"算法和开发不分家"，只是各自往不同层加码。想进一步分清两条线怎么选，看 应用岗和算法岗怎么选、两条主线各要什么证据。 为什么方向要挑，不能全学 全学的人最后每个都停在 demo，面试哪个都讲不深；而面试是往深里追问的，深度比广度值钱。 大模型这几个方向单独拉出来都能学很久：光 RAG 就有分块、embedding、检索、重排、查询理解、引用、评估一整条链；Agent 又有规划、工具、记忆、多步控制。你把七个方向平均分配时间，结果是每个都只摸到 API 调用那一层。面试官问"你 RAG 的召回率怎么评估、忠实度怎么保证、重排为什么选这个模型"，你就答不下去了。 反过来，选一条主线做深，你能在一个方向上讲清"我遇到什么问题、试了哪些方案、为什么这么选、效果怎么衡量"，这正是应用岗最想听的。其他方向知道是什么、能接上话即可，不必都做成项目。 推荐学习顺序：两类人两条主线 通用顺序是先 RAG 打底 → 再 Agent → 评估贯穿始终 → 微调按岗位选修。但研究生和在职后端的起点、主攻和"先跳过什么"应该不一样。 | 人群 | 起点 | 主攻方向 | 先跳过什么 | 里程碑 | |---|---|---|---|---| | 研一 / 研二在校生 | 从 RAG 基础起步，同时补概念和 Python 栈 | RAG 做深 → Agent → 如果目标是算法岗再上微调/对齐 | 先跳过推理部署底层优化、复杂分布式训练 | 一个能讲评估闭环的 RAG 项目 + 一段实习 | | 3 年 Java 后端 | 从 RAG 起步，直接复用你的服务化/数据/接口经验 | RAG 工程化 → Agent 工具调用与稳定性 → 评估监控 | 先跳过预训练、深度微调理论，别一头扎进论文 | 把后端能力翻译成"大模型系统"的完整项目 | 为什么两类人都从 RAG 开始：RAG 考点最密、最容易做出真实效果、和企业场景最贴，而且它天然把检索、重排、评估几件事串起来，是理解整张地图的最好入口。区别在于：研究生有时间用实习把履历从"想转"变成"做过"，可以再往算法侧(微调、对齐)延伸；在职后端的优势在工程，应该让 RAG / Agent 项目吃到你的并发、数据管线、稳定性经验，而不是去和应届生拼刷论文。 评估为什么"贯穿始终"：不管你做 RAG 还是 Agent，面试都会问"你怎么知道它做得好"。评估不是最后一步，是从你搭第一版就要想的事，所以它不排在顺序里，而是每个方向都带着做。 两个具体反例 第一个：想把每个方向都学一遍。看起来很努力、很全面，笔记记了一大摞，但每个方向都停在"照教程跑通 demo"。面试官随便挑一个往深处追两层，你就露馅了，因为你从没在任何一个方向上真正解决过问题。广度只是背景，深度才会在面试里被看见。 第二个：只追最热的 Agent，忽略 RAG 和评估这种地基。Agent 确实是当前热点，但它建立在检索、上下文、评估之上。你没打 RAG 的底，一被问"你 Agent 里检索这块召回率怎么保证、结果好坏你拿什么指标衡量"，立刻卡住。追热点没错，但热点方向的面试恰恰会往地基上问。 选定主线后的行动清单 还分不清各方向"是什么"层面的概念：先去 大模型基础概念扫盲(第 12 篇) 把名词过一遍，再回来对着本页的表选方向。 主线选 RAG：直接开 RAG 智能问答系统教程，按 为什么需要 RAG → 架构 → 分块 → 检索 → 重排 → 评估的章节做完一个能讲的项目。 主线选 Agent：开 Deep Research Agent 教程，从 为什么做 Deep Research 到工具、记忆、评估走一遍；想先练手更小的 Agent，去 AI 编程实操。 要按方向系统刷面试考点、看每个方向的高频题和复习法：去 第 21 篇 领域八股速通，本页只给方向地图，逐方向的考点复习交给那一篇。 还没定整体节奏：回 转大模型路线图(第 01 篇) 对齐时间线。 本页和相邻篇的分工 避免你读串：第 12 篇 讲的是"概念级，每个名词是什么意思"；本页讲的是"方向级，每个方向考多少、怎么学、按什么顺序学"；而"逐个方向的高频考点和复习法"交给 第 21 篇。三篇串起来是：先懂词(12)→ 再看地图选路(15)→ 再按方向背考点做项目(21)。 常见问题 大模型技术栈这么多方向，转行必须全学吗? 不必。应用开发这侧七个方向解决不同问题，面试是往深里追问的，深度比广度值钱。挑一条主线(多数人选 RAG)做到能讲清问题、方案、取舍、评估，其他方向知道是什么、能接上话即可。 RAG、Agent、微调到底有什么区别? RAG 是让模型基于你的知识库回答，解决"没企业数据、爱胡说"；Agent 是让模型能规划、调工具、多步完成任务；微调是用自己的数据改模型的行为。前两个是应用岗高频方向，微调偏算法侧，按目标岗位选修。 大模型应该按什么顺序学? 通用顺序：先 RAG 打底(考点最密、最容易出真实效果)→ 再 Agent(热点且和 RAG 衔接)→ 评估贯穿始终 → 微调按目标岗位选修。研究生可以再往算法侧延伸，在职后端应让 RAG / Agent 吃到自己的工程经验。 只学最热的 Agent 行不行? 不建议。Agent 建立在检索、上下文、评估之上，面试问 Agent 时往往会往这些地基上追问，比如召回怎么保证、效果拿什么指标衡量。没打 RAG 和评估的底，追热点也追不稳。 面试主要考哪几个方向? 从站内题库看，题量最密的是 Agent、评估与监控、Prompt 工程、重排与优化、RAG 基础。这几个是应用岗几乎躲不过的核心区，微调、训练、推理优化题量少、门槛高，偏算法/平台岗。 相关阅读 转大模型应用开发路线图：研究生和 Java 后端要学什么、多久上岸 大模型基础概念扫盲：RAG、Agent、微调这些名词到底是什么意思 领域八股速通：每个方向的高频面试考点和复习法 RAG 智能问答系统实战教程：从为什么到评估上线