大模型微调与训练面试题大全
应用岗不一定天天训练模型，但一定会被问到什么时候该微调、和 RAG / Prompt 怎么取舍、LoRA 怎么做、DPO 和 RLHF 有什么区别。这一页把微调、训练、对齐三类题连成一条线。
共 117 道题，按能力模块组织。
先做项目，再刷题
轻量微调、LoRA 与应用场景(47 题)
- 300-500意图怎么召回? — 大规模意图识别中克服上下文长度限制的技术方案
- Agent 规划能力怎么训练? — 大模型 Agent 系统中 Planning 能力提升的技术路线与训练方法
- 架构与训练怎么提升多轮一致性? — 从架构、训练、数据到推理的 4 方面技术方案与原理
- 大模型落地技术范式怎么选?
- RAG检索偏差怎么缓解?
- Tool Calling 技术路径怎么选?
- Reranker 训练数据怎么构造?
- Prompt 怎么设计和优化?
- RAG/蒸馏/微调怎么选?
- Agent 记忆怎么用向量库?
- RAG vs SFT 场景怎么选?
- RAG 为何比 SFT 更优?
- 意图识别结构化输出失败如何修复
- Few-shot vs Zero-shot vs Fine-tuning 怎么选?
- 向量检索怎么保准又保真?
- RAG 检索精度提升的三大陷阱
- RAG Embedding 模型怎么选?
- RAG 工作原理与架构怎么搭?
- RAG 端到端工作流程
- RAG 技术原理与架构怎么搭?
- 领域 RAG 知识库构建
- RAG 技术流程怎么跑?
- 领域RAG应用链路怎么搭?
- 大模型知识库怎么构建?
- 文本嵌入模型怎么选?
- Embedding 模型选型考虑哪些因素?
- RAG 向量模型怎么选?
- RAG 检索噪声 3 大策略
- RAG 深度与局限怎么破?
- RAG 检索与生成流程详解
- Agent 系统怎么调优优化?
- 大模型输出JSON怎么保正确?
- LLM 标签约束解码
- Prompt Engineering 关键原则有哪些?
- SFT vs RAG 知识更新
- RAG检索相关但生成差原因
- LLM 封闭标签如何强约束?
- 生成质量差怎么调优?
- 生成模型回答不准怎么调?
- 怎么提升对话模型事实一致性?
- 大模型准确性瓶颈在哪?
- 动态Prompt训练数据怎么构建?
- RAG 基本工作流程是什么?
- RAG 解决了哪些核心问题?
- 什么是微调(SFT)?和预训练有什么区别?
- LoRA 是什么?为什么能省这么多资源?
- 全量微调和 LoRA 微调怎么选?
训练流程、数据与稳定性(43 题)
- DDPM vs Flow Matching: 采样效率与优缺点? — 建模思路、训练目标与采样效率对比，优缺点分析
- SFT 置信度下降影响 — 置信度下降对校准、阈值和业务决策的影响，补充适用边界与工程取舍
- PyTorch 动态图怎么自动微分? — 计算图构建、反向传播机制与训练优势解析
- Focal Loss 公式与作用机制
- 训练数据清洗：规则 vs LLM
- LoRA 低秩分解 vs 全量微调怎么选?
- 参数量增长如何影响模型能力?
- 二分类交叉熵损失函数怎么推导?
- MSE 损失函数怎么用?
- 训练曲线异常怎么排查？
- Prompt vs Seq2Seq，怎么转？
- 批量文本清洗如何自动质检?
- 合成数据怎么系统构建?
- SFT vs 预训练:核心区别在哪?
- LoRA 微调效果差怎么排查?
- LoRA 有哪些局限性?
- MSE vs 交叉熵损失怎么选?
- MSE vs Focal Loss 分类怎么选?
- 模型收敛怎么判断?
- SFT 过拟合怎么判断和缓解?
- SFT 后置信度下降怎么办?
- SFT 后置信度下降原因
- 大模型微调方法怎么选?
- SFT prompt 模板设计原则与结构
- 模型收敛必须用验证集吗？
- SFT 硬件资源怎么配?
- SFT 复读机问题怎么解?
- LLM 训练哪步最难?
- 图像数据超参数怎么调?
- Flow Matching 线性目标速度
- LlamaFactory 怎么构造训练数据?
- 无标注数据怎么构建高质量数据集?
- 数据难度分层怎么验证?
- LoRA 低秩分解的数学原理是什么?
- SFT 人工标注数据怎么构建?
- 重参数化技巧怎么解决梯度问题?
- 训练数据怎么采集和预处理?
- 全参数 vs 参数高效微调怎么选?
- KL散度本质与非对称性怎么用?
- GLoRA 比传统 LoRA 强在哪?
- CPT 后灾难性遗忘怎么防?
- DDPM 为什么不先加噪再端到端去噪?
- CPT数据清洗与时间序列一致性
RLHF、DPO 与偏好对齐(27 题)
- PPO vs DPO vs GRPO 怎么选? — 三种RLHF优化算法核心思想、适用场景及对齐区别
- DPO vs PPO 怎么选? — 大模型对齐中两种 RLHF 方法在原理、稳定性、效果上的对比
- Reward 函数设计关键因素? — RLHF 中奖励稀疏性、信号延迟与多目标平衡怎么处理
- 长周期 Agent 如何建模与规划?
- 奖励函数设计与投机陷阱
- 长视野任务的信用分配与 Option
- Agent 奖励如何对齐目标并防作弊?
- 长视界任务怎么结合环境训练?
- 稀疏与延迟奖励的塑形与权衡
- RL 训练环境与 Sim2Real
- Agent 工具调用奖励设计
- 环境训练 vs 监督学习怎么选?
- PPO vs GRPO 怎么选?
- GSPO 与 SFT、PPO、GRPO 区别
- 环境训练方法怎么选?
- 模拟器与 World Model 的偏差和迁移
- RLHF 中 Reference Model 不训练?
- Environment-based 训练怎么用?
- GSPO 序列级比率与裁剪
- Reward Model 训练流程详解
- TRL Agent 组件交互机制
- On-policy、Off-policy 与 DPO 怎么选?
- PPO vs GRPO vs DPO 适用场景?
- PPO vs GRPO vs DPO 原理区别?
- Agent 工具调用训练数据怎么构建?
- SFT、偏好优化与 RL 怎么衔接?
- Long Horizon 训练环境怎么搭?
常见问题
应用岗一定要会微调吗？
不一定要做深度训练，但要会判断边界：Prompt / RAG 解决不了风格、格式、领域行为或工具轨迹问题时，才考虑 SFT / LoRA / DPO，并且必须能评估收益。
LoRA 面试最常被问哪些点？
常问参数高效的原理、rank 怎么选、和全量微调的差异、数据质量、过拟合、合并权重、推理部署，以及为什么这件事值得微调。
DPO 和 RLHF 怎么讲得清楚？
RLHF 是奖励模型 + 强化学习的经典链路，DPO 直接用偏好对优化策略，工程上更简单。面试里要结合数据、稳定性和适用场景讲。
想有人带着把项目做深、简历改到能扛追问，看 训练营；先自学也可以从本页开始。