SFT prompt 模板设计原则与结构

回答与解析

核心设计原则

1. 角色分离原则

• system：设定全局行为约束（人设、安全策略、输出格式）
• user：承载具体任务指令
• assistant：模型需学习的标准输出

2. 指令结构化

• 明确区分任务指令(instruction) 与输入上下文(input)
• 避免信息混杂导致模型理解偏差

3. 输出可控性

• 通过模板预设输出格式（JSON、Markdown、特定标记）
• 减少生成不确定性

典型SFT Prompt结构（以Alpaca格式为例）

{
  "instruction": "将以下中文句子翻译成英文",
  "input": "大模型微调是提升特定任务能力的关键技术",
  "output": "Fine-tuning large language models is a key technique for enhancing task-specific capabilities"
}

实际对话模板封装（Llama-2-chat风格）：

<s>[INST] <<SYS>>
You are a helpful assistant. Provide concise, accurate responses.
<</SYS>>

Translate the following sentence to English:

{input} [/INST] {output} </s>

组成部分解析

工程实践要点

• 严格对齐基座模型的chat template：不同模型的特殊token差异很大（如Qwen的<|im_start|>、ChatGLM的[Round]）
• 预留system字段的扩展性：便于后续通过system prompt做动态能力切换
• output字段的多样性设计：同一input配多个优质output，提升数据丰富度

口语版讲法(约4分钟)

• 一句话定位：SFT prompt模板本质是给模型一个受控的交互协议
• 核心原则：角色分离和指令结构化，避免信息混杂
• 典型结构举例：Alpaca格式和Llama-2-chat模板，解释各组件作用
• 落地风险：模板必须对齐基座模型的chat template，否则token错乱
• 工程师判断：我更倾向预留system字段做动态切换，并注意output多样性

这道题问的是SFT prompt模板的设计，其实本质是在问：你如何给模型设计一个受控的交互协议，让它能准确理解任务、稳定输出。不是随便写个句子就行，而是要考虑角色、边界和扩展性。

核心原则我重点讲两个。先说角色分离。说白了就是把system、user、assistant三个角色划清楚。system设定全局行为，比如人设、安全策略、输出格式；user承载具体指令和输入；assistant就是模型要学习的标准输出。如果混在一起，模型容易混淆到底该听谁的。再一个是指令结构化，也就是把任务指令和输入上下文明确分开。比如翻译任务，instruction是“将以下中文句子翻译成英文”，input是具体句子，output是译文。如果混在一起写，模型可能把部分输入当成指令，导致理解偏差。

举个例子，Alpaca格式就是典型的结构化模板，它用三个字段把instruction、input、output分开。实际对话里，像Llama-2-chat风格会封装成带特殊标记的模板：用<<SYS 包系统指令，[INST]和[/INST]标出用户输入边界，<s 和</s 控制生成起始和结束。这些组件各有作用：系统指令锚点定义基础行为，边界符让模型知道指令从哪开始到哪结束，占位符保证模板复用。

这里有个坑：不同基座模型的chat template差异很大。比如Qwen用< im start ，ChatGLM用[Round]。如果你不严格对齐，模型可能把特殊token当成普通文本输出，或者生成位置错乱。所以上线前一定要确认模板和模型训练时用的格式一致。

另外，我特别看重system字段的扩展性。实际业务中，你可能需要根据用户场景动态切换人设或安全策略，比如客服场景和金融场景的system指令不同。如果模板把system写死，后面改起来就很麻烦。所以我会在模板里预留system的动态注入接口，这样可以通过system prompt做能力切换，而不动整体模板结构。

还有一个容易被忽略的点是output的多样性。同一个input，如果只配一个output，模型学到的映射太单一。我会配多个高质量的output，比如不同的表达方式或风格，这样数据丰富度更高，模型泛化能力更强。

说到输出多样性，其实引出一个更深入的问题：如果output质量参差不齐，反而会引入噪声。所以我会在数据清洗环节做一致性校验，确保多个output在语义上等价，并且符合任务要求。

所以整体上，我会把SFT prompt模板看作一个受控接口，核心是角色分离、结构化、对齐基座模型，同时留好扩展性。这样模型才能稳定输出，也方便后续迭代。

关键一句:output多样性需要数据一致性校验，否则噪声会伤害模型

面试官还可能这样问

1. 问法 1 · 场景切入

   假设我们要给电商客服微调一个模型，用户问‘订单怎么还没到’，我们想让它先查物流再回复。你设计SFT的prompt模板时，会怎么把‘查物流’这个指令和用户的输入分开？

2. 问法 2 · 层层追问

   你平时怎么做SFT的prompt模板？……一般会放哪些字段？……那如果模型总是不按格式输出，你觉得是模板哪部分设计有问题？

3. 问法 3 · 直球架构

   直接说吧，SFT的prompt模板设计原则有哪些？给我一个典型结构，拆开讲每个组件的作用，比如system、user、assistant怎么分工。