Axion 1.0：开放智能体基础模型，化繁为简

Axion 1.0 是一个完全开放的智能体基础模型，通过两个 SFT 阶段加 RL 训练，没有专门的中期训练、DPO 或 OPD，并在广泛的智能体基准套件上具有竞争力。

现代智能体模型通常依赖继续训练或中期训练、多个监督阶段、针对特定能力的数据混合、偏好优化、RL 以及额外的后训练，这使得很难识别哪些要素是必要的，并提高了复现成本。许多开放模型发布权重，却不公开数据构建、过滤、验证、提示和训练流程。论文追问：要构建一个强大且广泛适用的智能体基础模型，这种复杂性究竟有多少是真正必要的。

Axion 1.0 使用三个阶段：两个 SFT 阶段后接 RL，没有专门的中期训练、DPO 或 OPD。阶段 I 从公开种子构建自包含推理任务；生成器组合新问题，基础模型用 Python 评估但不搜索，它能解决的问题通过组合、参数化、范围偏移或情况分析进行强化，仅当三个独立的 GPT-5.5 解法一致时才接受参考答案。阶段 II 在结构化公开数据上构建工具依赖任务，使用确定性的 filter、select、compute 和 verbalize 步骤；构建时数据库在求解期间不提供，可闭卷解决的问题被移除。SFT 序列化完整交互但只监督 assistant token，阶段 II 从阶段 I checkpoint 初始化。RL 从阶段 II 开始，使用 GRPO 和最终答案与中间进展奖励，选择四条采样轨迹中包含正确答案且奖励方差非零的任务。

• 在受限网站访问的完整 HLE 上，Axion 1.0-35B 和 Axion 1.0-122B 分别达到 52.2% 和 59.0%；在没有这些限制时，对应得分为 59.1% 和 64.8%。 §4.2
• 与规模相近的 Agents-A1 相比，Axion 1.0-35B 在 HLE 上提升 4.6%（52.2% vs. 47.6%），在 SEAL-0 上提升 5.8%（62.2% vs. 56.4%），在 FrontierScience Olympiad 上提升 7.0%（86.0% vs. 79.0%）。 §4.2
• 在 FrontierScience Research 上，35B 和 122B 模型分别得分 56.7% 和 66.7%，而 Agents-A1 为 40.0%，GPT-5.5 为 26.7%；122B 模型超过 GPT-5.6 Sol 的 63.3%，高出 3.4%。在 BMB 上，Axion 1.0-122B 达到 41.7%，而 GPT-5.6 Sol 为 47.1%，Claude Fable 5 为 46.1%。 §4.2
• 将模型规模从 35B 增加到 122B 提升了六项基准分数中的五项，最大增益出现在 FrontierScience Research（+10.0%）、HLE（+6.8%）和 BMB（+6.4%），HiPhO 增益较小（+0.5%）；SEAL-0 是例外，35B 模型为 62.2%，122B 模型为 58.6%。 §4.2
• 对于 35B 模型，SFT 阶段 I 将 HLE-130 从 47.7% 提升到 59.2%，HiPhO 从 38.6% 提升到 45.9%，FrontierScience Olympiad 从 71.0% 提升到 83.0%，而 BMB 从 23.5% 下降到 17.6%；随后 SFT 阶段 II 将 BMB 从 17.6% 提升到 35.3%，FrontierScience Research 从 48.3% 提升到 58.3%，SEAL-0 从 50.5% 提升到 53.2%，HLE-130 从 59.2% 提升到 66.2%。 §4.3
• 对于 35B 模型，RL 将 HLE-130 从 66.2% 提升到 70.0%，SEAL-0 从 53.2% 提升到 62.2%；对于 122B 模型，二者分别从 68.5% 提升到 74.6%，从 53.2% 提升到 58.6%，并且 BMB 从 35.3% 提升到 41.7%。 §4.3

• 跨来源基线比较可能涉及不同的工具访问或执行设置，文中称其为指示性而非严格受控（§4.1）。
• 训练阶段比较遵循顺序 checkpoint，并非组件移除消融（§4.3）。
• 35B 和 122B 结果并非受控规模缩放实验，因为这些模型还额外进行 RL 并使用不同的基础架构（§4.4）。
• 在 rollout routing replay 下，基准差异不能仅归因于 R3，因为对数概率诊断也反映异步策略陈旧和 off-policy 上下文浓缩效应（§4.4）。

• Axion 1.0 发布时提供完整配方，包括数据构建、生成、过滤、验证、提示和训练代码，而不仅仅是模型权重。 §Abstract
• 训练配方只有三个阶段：两个轻量级 SFT 阶段后接 RL，没有专门的中期训练、DPO 或 OPD。 §3.1
• 阶段 I 使用基于公开种子的模型感知数据构建；基础模型能解决的问题通过组合、参数化、范围偏移或情况分析进行强化，仅当三个 GPT-5.5 解法一致时才接受参考答案。 §2.1
• 阶段 II 通过 filter、select、compute 和 verbalize 步骤在结构化数据上构建工具依赖问题；构建时数据库不提供，可闭卷解决的问题被移除。 §2.2
• SFT 只监督 assistant 生成的 token——推理、工具调用和最终答案——而系统与用户消息以及工具观察提供上下文但不贡献损失。 §3.2
• RL 对正确最终答案给予完整奖励；否则部分奖励为 max(0, 0.3P - 0.1(1-A))，其中进展 P 按依赖顺序聚合，因此后续步骤只有在先决条件验证后才计入。 §3.3
• 所有 SFT 运行使用 128K 上下文窗口，在 32 个 GPU 上运行；Qwen3.5-122B-A10B 耗时 7 小时 30 分钟，总计 240 GPU-hours，而 Qwen3.6-35B-A3B 耗时 2 小时 48 分钟，约 90 GPU-hours。 §5.1
• 异步 RL 将 rollout 与训练 GPU 池分离；TITO 保留 rollout token ID，R3 记录并重放 MoE 专家路由，将平均梯度范数从 1.998 降至 1.922，平均 PPO KL 从 0.0413 降至 0.0396。 §5.2