大模型技术栈全景：RAG / Agent / 微调 / 推理 / 评估各是什么、面试考多少、怎么学

大模型应用开发不是学"一个东西",而是一张地图:RAG、Agent、Prompt 与上下文、评估与监控、重排与检索、模型微调、推理部署几个方向,各自解决不同问题、考察热度也差很多。转行者最该避免的坑是"全都学一遍",正确做法是按面试频率和自己的背景挑一条主线做深。这一页就是全站技术地图的枢纽,帮你先看清全貌再决定学哪条。 作者:吴师兄 适合:刚决定转大模型、面对一堆名词不知从哪下手的人 前置:知道应用岗和算法岗的区别,看过路线图 大模型技术栈到底有哪些方向 一句话结论:应用开发这一侧,常见方向可以归成七类,每一类解决的问题不同,面试考的密度也不同。下面这张全景表是本页核心,题量取自站内 851 道真题的模块分布,能直接反映"这个方向面试考多少"。 方向 是什么 / 解决什么问题 面试频率(站内题量) 代表题库模块 代表教程章 RAG 检索增强 让模型基于你的知识库回答,解决"胡说、没有企业数据"的问题,应用岗第一主战场 RAG基础 62 RAG 基础题库 RAG 智能问答系统教程 重排与检索优化 RAG 里"召回准不准"的关键环节,效果好坏经常卡在这 重排与优化 70、向量检索 49 重排与优化题库 重排章 Agent 智能体 让模型能规划、调工具、多步完成任务,当前最热且和 RAG 衔接 Agent 154 Agent 题库 Deep Research Agent 教程 Prompt 与上下文 怎么把任务、约束、上下文喂给模型,应用开发的高频入口 Prompt工程 77 Prompt 工程题库 AI 编程实操 评估与监控 没评估就无法上线迭代,贯穿所有方向的地基 评估与监控 121 评估与监控题库 评估章 模型微调 / 对齐 用自己的数据改模型行为,偏算法侧、按岗位选修 模型微调 47、模型训练 43、RLHF与对齐 27 模型微调题库 训练章 推理与部署 让模型跑得快、稳、省,工程和平台岗更看重 推理优化 23、模型架构 49 推理优化题库 服务化章 还有几个偏场景/数据的模块:知识图谱 35、多模态 34、文档处理 29,它们通常挂在 RAG 或具体业务里出现,不构成独立主线,遇到目标岗位强相关时再补即可。 这张表最重要的读法不是"题多的就都学",而是:题量密集的方向(Agent、评估、Prompt、重排、RAG)是应用岗追问的核心区,几乎人人躲不过;题量少但门槛高的方向(微调、训练、推理优化)偏算法/平台岗,按目标岗位决定要不要碰。 换个角度:技术栈其实是四层 上面那张表是"横着切"的方向,再补一个"竖着切"的分层视角会更好定位自己。把大模型应用开发的技术栈从上到下拆成四层,你能看清"面试官追问的问题分别落在哪一层",也能判断自己该往哪层做深。 层 负责什么 关键能力 / 组件 站内承接 谁更该往这层做深 应用层 直接面向用户/业务的形态 RAG 问答、Agent、AI Coding、企业知识库、研究助手 RAG 智能问答系统、Deep Research Agent、AI 编程实操 两条线都要有一个 Agent Harness 层 让 Agent 稳定跑起来的工程骨架 状态管理、工具注册、权限确认、trace、replay、错误恢复、成本控制 Agent 题库、工具与函数调用章、记忆管理章 开发/Java 后端线的主场 Data / Eval 层 决定"效果好不好"能不能被证明 文档解析、Embedding、Rerank、评估集、LLM-as-Judge、badcase 闭环 评估与监控题库、文档处理、评估章 两条线都绕不开,算法线更深 Training / Post-Train 层 用数据改模型本身的行为 SFT、LoRA、DPO/GRPO、工具调用轨迹数据 模型微调题库、RLHF与对齐、训练章 算法/研究生线选修,应用线按岗位 这个分层的用处在于对号入座:开发/Java 后端线的杠杆在中间两层——把 Agent Harness 的工程骨架(权限、trace、失败恢复、成本)和 Data/Eval 的评估闭环做扎实,正好吃你的服务化和稳定性经验;算法/研究生线则往下沉,把 Data/Eval 的评估设计和 Training/Post-Train 的数据与训练做深。两条线在应用层和 Data/Eval 层大量重叠,这也是为什么"算法和开发不分家"——只是各自往不同层加码。想进一步分清两条线怎么选,看 应用岗和算法岗怎么选、两条主线各要什么证据。 为什么方向要挑,不能全学 结论先行:全学的人最后每个都停在 demo,面试哪个都讲不深;而面试是往深里追问的,深度比广度值钱。 大模型这几个方向单独拉出来都能学很久:光 RAG 就有分块、embedding、检索、重排、查询理解、引用、评估一整条链;Agent 又有规划、工具、记忆、多步控制。你把七个方向平均分配时间,结果是每个都只摸到 API 调用那一层。面试官问"你 RAG 的召回率怎么评估、忠实度怎么保证、重排为什么选这个模型",你就答不下去了。 反过来,选一条主线做深,你能在一个方向上讲清"我遇到什么问题、试了哪些方案、为什么这么选、效果怎么衡量"——这正是应用岗最想听的。其他方向知道是什么、能接上话即可,不必都做成项目。 推荐学习顺序:两类人两条主线 结论:通用顺序是先 RAG 打底 → 再 Agent → 评估贯穿始终 → 微调按岗位选修。但研究生和在职后端的起点、主攻和"先跳过什么"应该不一样。 人群 起点 主攻方向 先跳过什么 里程碑 研一/研二在校生 从 RAG 基础起步,同时补概念和 Python 栈 RAG 做深 → Agent → 如果目标是算法岗再上微调/对齐 先跳过推理部署底层优化、复杂分布式训练 一个能讲评估闭环的 RAG 项目 + 一段实习 3 年 Java/后端 从 RAG 起步,直接复用你的服务化/数据/接口经验 RAG 工程化 → Agent 工具调用与稳定性 → 评估监控 先跳过预训练、深度微调理论,别一头扎进论文 把后端能力翻译成"大模型系统"的完整项目 为什么两类人都从 RAG 开始:RAG 考点最密、最容易做出真实效果、和企业场景最贴,而且它天然把检索、重排、评估几件事串起来,是理解整张地图的最好入口。区别在于:研究生有时间用实习把履历从"想转"变成"做过",可以再往算法侧(微调、对齐)延伸;在职后端的优势在工程,应该让 RAG/Agent 项目吃到你的并发、数据管线、稳定性经验,而不是去和应届生拼刷论文。 评估为什么"贯穿始终":不管你做 RAG 还是 Agent,面试都会问"你怎么知道它做得好"。评估不是最后一步,是从你搭第一版就要想的事,所以它不排在顺序里,而是每个方向都带着做。 两个具体反例 第一个:想把每个方向都学一遍。看起来很努力、很全面,笔记记了一大摞,但每个方向都停在"照教程跑通 demo"。面试官随便挑一个往深处追两层,你就露馅了——因为你从没在任何一个方向上真正解决过问题。广度不是护城河,深度才是。 第二个:只追最热的 Agent,忽略 RAG 和评估这种地基。Agent 确实是当前热点,但它建立在检索、上下文、评估之上。你没打 RAG 的底,一被问"你 Agent 里检索这块召回率怎么保证、结果好坏你拿什么指标衡量",立刻卡住。追热点没错,但热点方向的面试恰恰会往地基上问。 选定主线后的行动清单 还分不清各方向"是什么"层面的概念:先去 大模型基础概念扫盲(第 12 篇) 把名词过一遍,再回来对着本页的表选方向。 主线选 RAG:直接开 RAG 智能问答系统教程,按 为什么需要 RAG → 架构 → 分块 → 检索 → 重排 → 评估的章节做完一个能讲的项目。 主线选 Agent:开 Deep Research Agent 教程,从 为什么做 Deep Research 到工具、记忆、评估走一遍;想先练手更小的 Agent,去 AI 编程实操。 要按方向系统刷面试考点、看每个方向的高频题和复习法:去 第 21 篇 领域八股速通,本页只给方向地图,逐方向的考点复习交给那一篇。 还没定整体节奏:回 转大模型路线图(第 01 篇) 对齐时间线。 本页和相邻篇的分工 避免你读串:第 12 篇 讲的是"概念级——每个名词是什么意思";本页讲的是"方向级——每个方向考多少、怎么学、按什么顺序学";而"逐个方向的高频考点和复习法"交给 第 21 篇。三篇串起来是:先懂词(12)→ 再看地图选路(15)→ 再按方向背考点做项目(21)。 常见问题 大模型技术栈这么多方向,转行必须全学吗? 不必。应用开发这侧七个方向解决不同问题,面试是往深里追问的,深度比广度值钱。挑一条主线(多数人选 RAG)做到能讲清问题、方案、取舍、评估,其他方向知道是什么、能接上话即可。 RAG、Agent、微调到底有什么区别? RAG 是让模型基于你的知识库回答,解决"没企业数据、爱胡说";Agent 是让模型能规划、调工具、多步完成任务;微调是用自己的数据改模型的行为。前两个是应用岗主战场,微调偏算法侧,按目标岗位选修。 大模型应该按什么顺序学? 通用顺序:先 RAG 打底(考点最密、最容易出真实效果)→ 再 Agent(热点且和 RAG 衔接)→ 评估贯穿始终 → 微调按目标岗位选修。研究生可以再往算法侧延伸,在职后端应让 RAG/Agent 吃到自己的工程经验。 只学最热的 Agent 行不行? 不建议。Agent 建立在检索、上下文、评估之上,面试问 Agent 时往往会往这些地基上追问,比如召回怎么保证、效果拿什么指标衡量。没打 RAG 和评估的底,追热点也追不稳。 面试主要考哪几个方向? 从站内 851 题看,题量最密的是 Agent(154)、评估与监控(121)、Prompt 工程(77)、重排与优化(70)、RAG 基础(62)。这几个是应用岗几乎躲不过的核心区,微调、训练、推理优化题量少、门槛高,偏算法/平台岗。 相关阅读 转大模型应用开发路线图:研究生/Java 后端要学什么、多久上岸 大模型基础概念扫盲:RAG、Agent、微调这些名词到底是什么意思 领域八股速通:每个方向的高频面试考点和复习法 RAG 智能问答系统实战教程:从为什么到评估上线