大模型微调与训练面试题大全
应用岗不一定天天训练模型，但一定会被问到什么时候该微调、和 RAG / Prompt 怎么取舍、LoRA 怎么做、DPO 和 RLHF 有什么区别。这一页把微调、训练、对齐三类题连成一条线。
共 117 道大厂真题，每道都有书面答案 + 口语版讲法 + 面试官追问。
先做项目，再刷题
轻量微调、LoRA 与应用场景(47 题)
- 300-500意图怎么召回? — 大规模意图识别中克服上下文长度限制的技术方案
- Agent 规划能力怎么训练? — 大模型 Agent 系统中 Planning 能力提升的技术路线与训练方法
- 架构与训练怎么提升多轮一致性? — 从架构、训练、数据到推理的 4 方面技术方案与原理
- 大模型落地技术范式怎么选?
- RAG检索偏差怎么缓解?
- Tool Calling 技术路径怎么选?
- Reranker 训练数据怎么构造?
- Prompt 怎么设计和优化?
- RAG/蒸馏/微调怎么选?
- Agent 记忆怎么用向量库?
- RAG vs SFT 场景怎么选?
- RAG 为何比 SFT 更优?
- 意图识别格式不理想怎么优化?
- Few-shot vs Zero-shot vs Fine-tuning 怎么选?
- 向量检索怎么保准又保真?
- RAG 检索精度怎么提升?
- RAG Embedding 模型怎么选?
- RAG 工作原理与架构怎么搭?
- RAG 原理与架构怎么理解?
- RAG 技术原理与架构怎么搭?
- 领域 RAG 系统怎么搭建?
- RAG 技术流程怎么跑?
- 领域RAG应用链路怎么搭?
- 大模型知识库怎么构建?
- 文本嵌入模型怎么选?
- Embedding 模型选型考虑哪些因素?
- RAG 向量模型怎么选?
- RAG 检索噪声怎么解决?
- RAG 深度与局限怎么破?
- RAG 怎么实现?
- Agent 系统怎么调优优化?
- 大模型输出JSON怎么保正确?
- LLM 输出怎么限定标签集?
- Prompt Engineering 关键原则有哪些?
- SFT vs RAG 怎么选?
- 检索相关但生成差怎么优化?
- LLM 输出限定标签集怎么做?
- 生成质量差怎么调优?
- 生成模型回答不准怎么调?
- 怎么提升对话模型事实一致性?
- 大模型输出准确性怎么提升?
- 动态Prompt训练数据怎么构建?
- RAG 基本工作流程是什么?
- RAG 解决了哪些核心问题?
- 什么是微调(SFT)?和预训练有什么区别?
- LoRA 是什么?为什么能省这么多资源?
- 全量微调和 LoRA 微调怎么选?
训练流程、数据与稳定性(43 题)
- DDPM vs Flow Matching: 采样效率与优缺点? — 建模思路、训练目标与采样效率对比，优缺点分析
- SFT 后模型置信度下降原因? — 监督微调导致预测概率分布均匀化的技术分析与影响
- PyTorch 动态图怎么自动微分? — 计算图构建、反向传播机制与训练优势解析
- Focal Loss 公式与作用机制
- 规则清洗 vs LLM 清洗怎么选?
- LoRA 低秩分解 vs 全量微调怎么选?
- 参数量增长如何影响模型能力?
- 二分类交叉熵损失函数怎么推导?
- MSE 损失函数怎么用?
- 训练曲线异常怎么排查？
- Prompt vs Seq2Seq，怎么转？
- 批量数据清洗流程怎么设计?
- 合成数据怎么系统构建?
- SFT vs 预训练:核心区别在哪?
- LoRA 微调效果差怎么排查?
- LoRA 有哪些局限性?
- MSE vs 交叉熵损失怎么选?
- MSE vs Focal Loss 分类怎么选?
- 模型收敛怎么判断?
- SFT 过拟合怎么判断和缓解?
- SFT 后置信度下降怎么办?
- SFT 后置信度下降原因?
- 大模型微调方法怎么选?
- SFT prompt 模板怎么设计?
- 模型收敛必须用验证集吗？
- SFT 硬件资源怎么配?
- SFT 复读机问题怎么解?
- LLM 训练哪步最难?
- 图像数据超参数怎么调?
- Gaussian Target Velocity 怎么算?
- LlamaFactory 怎么构造训练数据?
- 无标注数据怎么构建高质量数据集?
- 数据难度分层怎么验证?
- LoRA 低秩分解的数学原理是什么?
- SFT 人工标注数据怎么构建?
- 重参数化技巧怎么解决梯度问题?
- 训练数据怎么采集和预处理?
- 全参数 vs 参数高效微调怎么选?
- KL散度本质与非对称性怎么用?
- GLoRA 比传统 LoRA 强在哪?
- CPT 后灾难性遗忘怎么防?
- DDPM 为什么不先加噪再端到端去噪?
- CPT 数据处理流程怎么做?
RLHF、DPO 与偏好对齐(27 题)
- PPO vs DPO vs GRPO 怎么选? — 三种RLHF优化算法核心思想、适用场景及对齐区别
- DPO vs PPO 怎么选? — 大模型对齐中两种 RLHF 方法在原理、稳定性、效果上的对比
- Reward 函数设计关键因素? — RLHF 中奖励稀疏性、信号延迟与多目标平衡怎么处理
- 长周期任务怎么建模训练?
- 奖励函数怎么设计?
- Long Horizon 任务怎么结合 RLHF?
- 奖励函数设计要遵循哪些原则?
- 长视界任务怎么结合环境训练?
- 奖励函数设计要考虑哪些因素?
- RL 训练环境怎么搭建?
- Agent 奖励函数怎么设计?
- 环境训练 vs 监督学习怎么选?
- PPO vs GRPO 怎么选?
- GSPO 怎么提升策略学习?
- 环境训练方法怎么选?
- 环境模拟训练怎么用?
- RLHF 中 Reference Model 不训练?
- Environment-based 训练怎么用?
- GSPO 怎么提升训练效率?
- Reward Model 训练流程详解
- TRL 训练 Agent 各组件怎么设计?
- PPO 的 on-policy 为何是主流?
- PPO vs GRPO vs DPO 适用场景?
- PPO vs GRPO vs DPO 原理区别?
- RLHF 训练数据怎么构建?
- SFT 和 RLHF 为什么交替训练?
- Long Horizon 训练环境怎么搭?
常见问题
应用岗一定要会微调吗？
不一定要做深度训练，但要会判断边界：Prompt / RAG 解决不了风格、格式、领域行为或工具轨迹问题时，才考虑 SFT / LoRA / DPO，并且必须能评估收益。
LoRA 面试最常被问哪些点？
常问参数高效的原理、rank 怎么选、和全量微调的差异、数据质量、过拟合、合并权重、推理部署，以及为什么这件事值得微调。
DPO 和 RLHF 怎么讲得清楚？
RLHF 是奖励模型 + 强化学习的经典链路，DPO 直接用偏好对优化策略，工程上更简单。面试里要结合数据、稳定性和适用场景讲。
想有人带着把项目做深、简历改到能扛追问，看 训练营；先自学也可以从本页开始。