SWE-Trail: History-Guided Trajectory Collection for Coding Agent Training

SWE-Trail 将先前尝试作为采集端历史，用于在编码智能体 rollout 期间选择在何处比较候选动作，然后在所得轨迹上训练学生模型。

每个 issue 独立采样编码智能体轨迹会变得冗余：后续尝试增加的覆盖更少，并会重复访问修复目标。现有采集方法独立生成轨迹，或将先前经验放入智能体上下文，这可能使训练记录依赖测试时不可用的建议。本文研究在编码智能体仍从常规上下文生成动作的前提下，历史如何指导采集工作花费在何处。

SWE-Trail 将每个 issue 的历史和只读仓库检查编译为私有采集记录，其中包含检测器规则、局部比较目标和采样温度调度。在新的 rollout 中，检测器匹配可能值得额外采集工作的状态；随后编码智能体从常规上下文提出候选下一动作，不使用历史或该记录。SWE-Trail 对等价提议分组，保留一个默认项和至多一个可执行替代项，并从同一检查点恢复两个隔离工作区以执行短后缀。身份盲选择器在局部目标下比较打乱后的后缀，并保留默认项，除非执行证据明确支持替代项。rollout 只从所选路线继续，导出时保留一条连续的编码智能体轨迹，同时移除未选中后缀和私有采集器事件。

• H5 相比 SeedBank 将 mean resolution 提高 2.33 和 1.60 个百分点，而 H0 仅提高 0.11 和 0.73 个百分点。 §4.2
• Qwen3-14B-Base 学生模型在 H5 下也优于 SeedBank 和 H0。 §4.2
• 随机化比较位置或保留路线会相对 H5 降低 mean resolution。 §4.2
• 将历史从五次尝试增加到十次尝试仅带来小幅收益，但 token 成本更高。 §4.3
• 从十次独立 rollout 中进行验证器选择仍低于 H5，而对 SeedBank 与 H5 组合轨迹进行选择则超过 H5。 §4.3
• H0 产生的已解决轨迹多于 SeedBank，但带来的 Multilingual 学生模型增益很小；H5 产生更多已解决轨迹，并相对 H0 带来更大的学生模型增益。 §4.4

• §6 指出：实验使用两个学生模型，但只使用一个采集模型和一个智能体 scaffold。
• §6 指出：每轮采集期间历史固定，且每个 issue 使用相同采集预算。
• §6 指出：将 SWE-Trail 扩展到编码之外，需要支持状态恢复和用于比较替代项的反馈的环境。
• §4.2 和 E.2 留下未决问题：H5-H0 任务配对 95% 区间在两个基准上都包含零，因此该对比未能确定历史相对于无历史流水线的下游优势。

• 独立尝试显示覆盖递减：在 k=1 时期望已解决 issue 数为 58.4，后续尝试分别增加 13.1、8.0、5.1 和 3.4。 §2.1
• 混合历史审计使用 43 个主配对；GPT-5.6-Sol 在 26 个 issue 中识别出决策点，GLM-5.1 在 31 个中识别出，二者共同识别出 20 个。 §2.2
• 编译器提取历史证据，运行有界只读仓库检查，并在采集前冻结检测器规则、比较目标和采样调度。 §3.1
• 在匹配的检测器状态下，编码智能体从常规上下文提出候选；SWE-Trail 保留默认项和至多一个可执行替代项，并从同一检查点执行二者。 §3.2
• 选择器看到身份隐藏的打乱后缀，仅将私有记录用作背景，并保留默认项，除非执行证据明确支持替代项。 §3.3
• H5 候选采样在 1,500 次 rollout 中的 1,147 次发生，而 H0 下为 664 次；两个后缀执行在 968 次 rollout 中发生，而 H0 下为 560 次。 §4.5
• 相对于 H0，混合历史贡献了 H5 的 16 条额外已解决轨迹中的 13 条，以及 6 个额外已解决 issue 中的 5 个。 §4.4
• H5 编译出 687 条候选检测器规则；569 条匹配源轨迹，397 条通过准入。 §B.4