跳到正文

DEEP RESEARCH PROJECT INTERVIEW · Q14 / 25

简单问答怎样升级成真正需要多步研究的问题,又不把题目编坏?

从证据路径、图谱扩展、迭代升级和受控替换出发,讲清 Deep Research 复杂问答的生成、求解、质检与防泄漏。

作者与复核:吴师兄内容依据:公开教程、代码示例与工程推导查看关联教程 →查看吴师兄公开作品 →

25 道题目Q14
本页内容27 节

30 秒先说结论

先把简单种子的实体、关系、时间、答案和来源画成证据图,再按目标能力做图路径扩展、逐轮加约束、形式化组合或受控实体替换。每次变换后都由隔离求解流程重新完成,并检查答案支持、路径必要、无单页捷径、表达自然、合规和问题族重复。

很多团队做 Deep Research 数据时,会从已有简单问答出发,让模型“把题目改复杂一点”。

最常见的结果,是问题变长了。

它多了几个对象、几句背景和一串限制,但答案仍能从一个搜索摘要里找到。另一种结果更糟:替换了实体或时间后,原答案已经不成立,问题却继续进入轨迹生成。

真正的复杂问答由证据结构决定。它需要跨对象、跨来源或跨步骤收集信息,对齐版本与条件,某一步结果还会影响下一步研究路径;单纯增加文字没有这种效果。

题目变难的同时,必须仍然可理解、可执行、可核验。含糊任务只会让模型学会不断搜索,无法形成真正的研究能力。

所以面试官真正想问的是:

怎样从简单种子构造复杂问题,如何控制推理结构与答案可验证性,怎样发现伪多跳、实体替换失效和证据泄漏,又如何证明生成题确实更难而不是更长?

复杂问题首先要有“必要路径”

简单事实题通常有一个对象、一条关系和一个直接答案。

复杂研究题至少需要多个不可省略的信息单元。例如先确认候选对象,再分别核对版本能力,最后在同一条件下比较。

“不可省略”很重要。

如果问题写了三个条件,但某个百科页面已经直接给出最终结论,其他步骤只是装饰,这不是真多跳。

如果去掉其中一个来源,答案仍然完全不变,所谓交叉验证可能也只是重复。

可以把题目表示成最小证据图:节点是实体、主张、时间和来源,边表示支持、限制、比较或依赖。复杂度来自完成答案必须经过哪些节点与边。

问题文本只是这个图的自然语言表达。先有可验证结构,再让模型写题,比直接要求“生成一道难题”更稳妥。

问题变长与证据结构变复杂的差别

真正难题需要不可省略的证据路径,而不是堆背景与限制词。

方法一:沿知识图谱路径构造

SailorFog-QA 的核心思路,是先构建知识图谱,再沿图中路径采样复杂关系。

图里的节点可以是实体、事件或属性,边是可由资料支持的关系。路径越长、节点越容易混淆,问题通常越难。

这种方法的优势是答案路径显式存在,便于检查每一跳的证据。

难点在图谱本身。实体合并错误会把两个对象串在一起,关系抽取错误会产生看似合理但不存在的路径。

随机游走也不能等同于有效研究。路径可能在语法上连通,却没有自然业务意义;也可能绕很远后仍能由一个页面直接回答。

因此采样后要检查路径语义、证据独立、答案唯一性和自然表达。图路径是候选结构,不是自动通过证明。

方法二:逐轮升级问题复杂度

WebFrontier 的思路,是从简单种子出发,通过多轮操作逐步增加复杂度,并在每轮做质量控制。

升级可以增加对象、约束、时间、证据要求或组合子问题。

它的好处是每次变化可追踪。若某一轮开始问题不可回答,可以回到上一个有效版本,而不是只看到最终坏题。

但迭代容易累积漂移。

第一轮只换了时间,第二轮增加比较对象,第三轮又要求解释原因,原参考答案和证据可能早已不足。

所以每轮都要重新求解和核验,不能只检查文本是否符合变换指令。

还要限制无意义叠加。问题已经覆盖目标能力后,继续增加条件可能只让范围变糊,并不增加研究价值。

方法三:用形式化结构控制组合

WebShaper 通过知识投影和层级扩展控制问题的推理结构。

它的价值在于先定义要组合哪些信息、输出什么关系,再生成自然语言问题。与自由改写相比,结构更容易控制和复现。

例如一个层级负责识别对象,下一层加入时间条件,再下一层要求比较或汇总。每层都能检查输入和输出。

形式化不代表事实自动正确。

投影关系仍要由真实证据支持;层级组合也可能产生现实中没有意义的条件。

工程上应保存结构表达、生成文本和证据映射。题目审核失败时,可以知道是结构定义错、自然语言表达错,还是证据不存在。

形式化结构还便于生成同一能力的不同表述,而不会完全失去问题骨架。

方法四:从易到难做受控实体替换

E2HQA 从简单问答开始,通过实体替换逐步增加问题难度,并尽量保持答案关系。

这个方法容易扩展,但“保持答案不变”必须被重新验证。

把城市、产品、人物或时间换掉后,关系可能不再成立,答案类型也可能改变。

实体替换还可能产生明显模板感。用户看到题目就能猜生成规律,模型也可能学习表面模式而不是研究策略。

更稳妥的做法是从同类型、存在明确关系和可用证据的实体集合中选择,替换后独立求解,并检查新题是否有单一页面捷径。

若答案必须跟实体一起改变,就不要为了保持旧标签强行复用。新问题应生成新的参考答案与证据。

四种方法怎样选择?

图路径适合需要显式多跳与可验证关系的任务。

迭代升级适合从真实简单 query 逐步增加对象和约束。

形式化组合适合精确控制推理层级与输出结构。

实体替换适合快速扩展同类问题,但必须强验证事实与多样性。

它们不是互斥的。可以先用图或结构确定证据骨架,再用迭代变换和自然语言改写增加表达多样性。

选择依据是目标能力、可用语料、验证成本和失败类型,不是哪种方法名字更新。

任何方法都必须进入相同质量门,不能因为结构复杂就降低可回答性标准。

一条完整的复杂 QA 生成流水线

第一步,选择已经通过合规、去重和可回答性审核的种子。

第二步,建立原问题的实体、关系、时间、答案和证据映射。

第三步,选择目标能力,例如多对象比较、多源冲突、时效更新或动态规划。

第四步,用图路径、迭代操作、形式化组合或实体替换生成候选结构。

第五步,把结构写成自然问题,明确范围、交付和证据要求。

第六步,由独立求解流程重新完成,不读取旧答案。

第七步,检查最小证据路径、答案支持、无捷径、无泄漏、语言自然和合规。

第八步,按问题族、结构和证据来源去重,再进入轨迹采样。

复杂 QA 从种子到验收的生成流程

每次复杂度变换后都要独立求解,不能继承旧答案就直接通过。

为什么生成器和求解器要尽量分开?

同一个模型先生成问题,再看到自己预设答案做审核,容易维持原有假设。

它可能认为某条关系成立,只因为那正是生成 Prompt 要求它构造的关系。

可以让生成器只输出问题结构与候选证据,求解器在不读取预设答案的情况下重新研究,再由规则或审核器比较。

模型可以不同,也可以使用同一模型的隔离上下文,但不能让求解阶段直接拿到生成理由和目标答案。

关键题还需要人工核对原始证据。模型间一致仍可能来自共同知识偏差或相同搜索排序。

审核记录要保留生成版本、求解轨迹、证据和分歧。通过不等于“两个模型答案一样”,而是主张可由证据推出。

怎样检测“伪多跳”?

做删减测试。

删除一个子问题或证据节点,答案是否仍能完整得到。如果可以,该节点可能只是装饰。

做单页捷径测试。

使用关键实体和答案短语搜索,是否存在一个页面直接给出最终结论。若有,题目不一定适合训练多步研究。

做顺序测试。

后一步是否真的依赖前一步结果,还是所有子题可以独立查完后拼接。两者都可能有价值,但能力标签应不同。

做证据独立性测试。

多个页面是否都转载同一原始来源。页面多不等于证据多。

做最短轨迹试跑。

让基线系统以最低步骤求解,观察实际必要动作。不能只依据生成器声明的难度。

怎样保证答案仍然可验证?

每个关键主张要绑定至少一个有效证据片段和来源 ID。

比较题要统一对象、版本、时间和指标条件。

计算题要保存输入证据和计算方法。

趋势题要区分已观察事实与解释性推断。

无答案题要证明在允许来源与范围内证据不足,而不是因为搜索器没找到。

开放设计题可以没有唯一方案,但评分标准要检查约束、取舍、风险和证据,而不是要求一段固定标准答案。

参考答案也要版本化。来源更新后,旧题可以转为历史问题,或者重新生成当前答案;不能让标签在后台无痕变化。

一个教学反例:实体替换后答案失效

下面是一个教学反例,用于说明实体替换后答案失效的机制,并非真实数据。

原题询问某项目在特定版本加入了哪项能力,答案和官方发布说明都已核验。

扩写器把项目名替换成另一个同类项目,却保留原版本号和答案。

新题语法完整,也看起来属于同一领域,但新项目没有这个版本,能力发布时间也不同。

如果审核只检查格式和领域,新题会进入 Teacher 采样,随后生成一条自洽但虚构的轨迹。

合格流程会在替换后重新验证实体、版本、关系和来源。找不到证据就拒绝或重新生成答案,不能继承母题标签。

这个例子说明,数据错误通常从问题构造阶段开始,轨迹模型只是把它表达得更完整。

复杂度应该怎样量化?

必要证据单元数量反映要核验多少独立信息。

推理跳数反映结论依赖多少前序结果。

对象与维度数量反映比较和归一化工作。

来源冲突与时效要求增加验证难度。

工具类型和必要步骤反映执行复杂度。

动态规划程度检查中间结果是否可能改变后续动作。

答案开放度与风险决定评分和人工复核要求。

这些维度可以组成标签或分层,不必压成一个绝对分数。两个总分相同的问题,可能一个难在证据冲突,一个难在长工具链,训练价值不同。

复杂 QA 质量与难度评估矩阵

难度、可回答性、证据和多样性要分开检查,不能互相抵消。

生成题的质量门有哪些?

结构合法:问题可独立理解,范围与交付明确。

事实有效:实体、关系、时间和参数真实存在。

答案可证:参考结论能由允许证据推出。

路径必要:目标多跳不是可删除装饰,没有明显单页捷径。

难度匹配:标签与最小求解轨迹一致。

表达自然:不是机械模板或答案线索堆叠。

分布有价值:补充目标能力,而不是制造同质样本。

合规安全:来源许可、隐私和内容使用边界明确。

任一硬门失败就不能进入轨迹生成。自动分数再高,也不能抵消证据虚构或许可问题。

怎样做数据切分和防泄漏?

母题、改写、参数变体和组合问题共享 family ID,放在同一个集合。

基于同一证据路径生成的问题共享 source group,避免模型在训练中见过几乎相同原文。

图谱方法还要按子图或实体簇检查重叠。只按最终问题文本去重,可能漏掉同一路径的改写。

参考答案、证据路径、结构模板和生成指令不进入模型可见问题。

测试集最好保留新实体、新组合和较晚时间来源,检验模型能否执行研究,而不是记住训练图谱。

生成器升级后重新做跨版本家族聚类,避免新一批“不同写法”泄漏旧测试题。

首批应该怎样做,而不是追求数量?

先选择少量高质量种子,覆盖几种目标复杂结构。

每种方法生成候选后,统计失败类型和人工审核成本。

若图路径大量语义不自然,就先修图谱;若实体替换经常让答案失效,就收紧候选集合;若迭代升级造成范围漂移,就减少每轮操作并加强独立求解。

通过的小批题进入 Teacher 轨迹采样,再检查是否真的产生不同工具路径与研究行为。

只有问题、答案、证据、难度和轨迹都稳定,才按能力缺口扩量。

材料中的规划数量只能说明某阶段设想。可用规模必须以实际生成、清洗、去重和验收后的数据为准,不能把目标写成结果。

一条候选题应该保存哪些字段?

只保存问题文本和参考答案,后面很难解释它为什么通过,也无法在来源变化时重放审核。

候选题至少要保存原始种子 ID、问题族 ID、来源组 ID、生成方法和生成版本。这样可以知道它来自图路径、逐轮升级、形式化组合还是实体替换,也能在某种生成方式暴露系统性错误时批量回查。

还要保存结构化的对象、时间、范围、交付、答案状态和目标能力。答案状态不能只有“有答案”,至少要区分可直接核验、需要计算、存在来源冲突、开放设计和在允许范围内证据不足。不同状态的验收方法并不相同。

证据侧要保存来源标识、关键片段定位、每条主张与来源的映射,以及抓取或核验时间。只保存 URL 不够,因为页面会变化;只保存整页快照也不够,因为审核者不知道哪一段支持哪句话。

审核侧要保存生成器版本、独立求解结果、失败标签、人工结论和修改记录。题目若经过人工改写,应保留改写前后的关系,避免新文本脱离已核验的证据图。

这些字段让问题可追溯、可重放。发现来源失效或关系有误时,系统可以找到受影响的问题。

动态问题怎样避免答案快速过期?

“最新”“目前最好”“截至今天”这类表达会把时效要求写进题目。它们适合训练动态研究,却也最容易让参考答案失效。

第一种做法是把时间截点写清楚,并将题目视为历史快照。答案只能使用截点之前可见的证据,评测时也按当时范围核验。

第二种做法是保留动态问题,但不把某个固定结论当永久标签。评测重点转为研究过程是否覆盖指定来源、时间范围和比较条件,最终答案则在运行时重新核验。

第三种做法是给来源设置复核条件。官方文档版本更新、页面内容变化、引用失效或超出复核周期时,题目进入待审,而不是继续静默使用旧答案。

动态题还要防止未来信息泄漏。切分时除了问题族和来源组,还要检查证据时间。

不是所有题都要做成动态题。若目标是训练证据组合和工具规划,可以优先使用事实较稳定的材料,减少标签维护成本。只有确实要检验时效研究能力时,才引入动态范围与版本治理。

开放题和无答案题如何验收?

Deep Research 任务不全是唯一事实答案。方案比较、风险分析和调研建议常常允许多个合理结论;有些题在限定来源中确实找不到足够证据。

开放题不能用一段固定参考文案做字符串匹配。更合适的是拆成约束覆盖、证据质量、比较口径、取舍说明、风险边界和未决问题。不同答案可以给出不同方案,但不能跳过题目要求,也不能把推测写成事实。

无答案题也不能因为模型说“没有”就通过。需要先定义允许搜索的来源和时间范围,证明关键主张缺乏足够证据,并说明已经尝试了哪些合理路径。否则它可能只是搜索失败或过早停止。

生成无答案题时尤其要小心。生成器可能先假定“没有公开信息”,随后选择性忽略能回答的资料。独立求解器必须主动尝试推翻这个假设,而不是协助生成器证明自己。

这两类题的价值,是训练系统承认不确定性和证据边界。但它们的比例、难度与评分口径要单独观察,不能和直接事实题混在一个准确率里。

失败题怎样反哺下一轮生成?

拒绝候选题不是流水线终点。失败标签应该告诉生成模块下一轮改什么。

若大量题被判定为伪多跳,说明生成器只会增加背景或并列子题,应加强必要路径约束和单页捷径检查。

若实体替换后频繁出现关系失效,说明候选实体集合过宽,应该先做类型、时间和关系预筛,而不是继续增加审核量。

若题目可回答但表达不自然,可以保留证据骨架,只重写问题文本;若证据本身不存在,则必须丢弃结构,不能靠润色挽救。

若独立求解经常得到多个同样合理的答案,要判断题目本来就是开放题,还是对象、范围、时间和指标没有写清楚。前者调整评分方式,后者补全任务合同。

若训练集和测试集反复出现近似问题,问题通常不在文本去重,而在 family 或来源组标识不完整。应该回到生成链路修复血缘,而不是在最后再加一层关键词过滤。

质量系统最重要的产出不只是“通过或拒绝”,而是一份可以定位生成方法、证据结构和审核规则缺口的失败分布。先把高频失败收敛,再扩大候选规模,通常比一次生成大量题目更可控。

人工审核应该看什么?

人工审核不应只问“这题像不像面试题”,而要沿证据图逐项核验。

先在不知道生成答案的情况下读题,确认普通读者能理解对象、范围和交付。再检查实体、时间与比较口径是否真实存在,关键来源是否允许使用。

随后尝试用更短路径完成问题,主动寻找单页捷径、可删除条件和同源转载。若审核者不做反证,只沿生成器给出的路线走,很容易高估难度。

最后比较独立答案与证据映射,区分结论不同、证据不足和题目歧义。重要修改应回写问题结构与来源记录。

首批应集中审核不同生成方法和失败类型,用结果修正规则;流程稳定后仍要按来源、问题族、难度和动态风险分层抽查。

面试官继续追问,怎么接?

追问一:把两个简单题拼起来,就是复杂题吗?

不一定。若两个子题完全独立,只是拼接交付,它训练的是并行收集;真正多跳要求后一步依赖前一步结果。

追问二:怎样判断问题不是伪多跳?

做节点删减、单页捷径、来源独立和最短轨迹测试,检查每个步骤是否必要。

追问三:实体替换怎样保持答案正确?

不能默认保持。替换后要重新核验实体、关系、时间和证据,必要时生成新答案或拒绝候选。

追问四:为什么不能让同一个模型生成并审核?

它容易延续生成假设。至少隔离上下文并独立求解,关键题还要规则与人工核验原始证据。

追问五:复杂度看工具步数够吗?

不够。重复搜索也能产生很多步。还要看必要证据、推理依赖、对象、冲突、动态规划和答案风险。

怎样把复杂题生成方案讲完整

简单问答升级成 Deep Research 问题,核心在于构造不可省略的证据路径,句子长度不参与判断。我会先为种子建立实体、关系、时间、答案和来源图,再按目标能力选择图路径扩展、迭代增加约束、形式化组合或受控实体替换。

每次变换后都由隔离的求解流程重新完成,检查实体关系、答案支持、来源许可、单页捷径、节点必要性、语言自然和问题族重复。难度用必要证据数、推理跳数、对象和维度、冲突、工具需求与动态规划描述,不按字数或总步骤。生成器、求解器和审核器尽量分开,模型一致仍需回到原始证据。

数据按 family、source group 和结构切分,防止改写与相同证据跨训练测试。首批小规模覆盖多种结构,先看失败类型和轨迹行为,再按能力缺口扩展。计划生成量不等于可用规模,只有实际清洗、去重、合规并通过证据验收的题目才能进入轨迹采样。

Deep Research 复杂 QA 生成检查清单

生成题入库前,先过这四道关

挑一条你实际生成过的题,逐项说明它为什么需要多步证据,又怎样排除了“只是写得更长”的假复杂。

  • 每道复杂题能否画出不可省略的最小证据路径?
  • 实体、时间和条件变化后是否重新求解,而不是沿用母题答案?
  • 是否做单页捷径、节点删减、来源独立和问题族去重?
  • 难度标签是否由真实求解轨迹与证据结构共同验证?

INTERVIEW FOLLOW-UPS

面试官会怎样继续追问?

这些追问会继续检查方案取舍、验证方法和项目事实。
  1. Q01

    把两个简单问题拼起来就是多步研究吗?

  2. Q02

    怎样识别只有长句、没有必要路径的伪难题?

  3. Q03

    实体替换后为什么必须重新求解?

  4. Q04

    复杂度只看工具调用步数够不够?

PROJECT CHECK

换成你的项目,这几件事能否说清楚?

  • 每题都有不可省略的最小证据路径
  • 每次变换后隔离旧答案重新求解
  • 完成单页捷径、节点删减和来源独立检查
  • 按 family 与 source group 去重和切分
用自己的项目经历练一次