NorthCUA Technical Report: Turbocharging Computer-Use Agents through Experience at Scale

NorthCUA 是一个集成的 Harness、经验生产飞轮和分阶段学习流水线，用于训练 Nano、Mini 和 Pro 计算机使用智能体，并报告了强劲的 GUI grounding、桌面、Web 和延迟结果。

将计算机使用智能体从单一动作扩展到复杂软件工作，需要能把决策与完整结果连接起来的经验。构建带可靠验证器的多样化可执行任务、维持长时间 GUI 交互，以及将记录转化为学习样本，是相互关联的瓶颈。独立执行可能进入演示中未出现的状态，因此需要新的交互和结果反馈来持续改进。

Experience Flywheel 通过扩展意图、环境和验证器来构建单步 grounding 示例和可执行的 CaseSpec 任务，然后整理经过评估的轨迹；对于未解决任务，递归自我改进使用技能引导或里程碑检查点。NorthCUA Harness 通过共享的 ReAct 风格运行时、动作感知视觉上下文、保留任务的压缩、结构化笔记、agent-as-a-judge 评估器和批量 rollout 服务来运行桌面与 Web 任务。分阶段学习使用带 grounding 数据的广泛 GUI 中期训练、经过验证的长时程 SFT，以及基于新的经验证器评分尝试的联合桌面-Web GRPO 强化学习。Experience Adapter 在上下文变化中保留决策时输入和尝试级奖励归因。NorthCUA-Ultrafast 增加一个 choice head 用于有限 Web 动作，同时对开放式输出回退到原生生成。

• NorthCUA-Pro 在对比表中取得最高 grounding 分数，Mini 和 Nano 保留了大部分能力。 §6.2 GUI Grounding Results
• 在 OSWorld-Verified 桌面工作流上，最终 RL 检查点得分最高的是 Pro，其次是 Mini，然后是 Nano。 §6.3 Desktop Agent Results
• 在 OSWorld 2.0 上，Pro 达到 30.6% 的 binary completion 和 66.8% 的 partial credit；在 108 任务参考块中，它分别以 3.2 和 4.1 个百分点超过 GPT-5.6 Sol。 §6.3 Desktop Agent Results
• 在 WebArena-Verified 上，Pro 达到 73.9%，Mini 为 70.4%，Nano 为 67.2%；Pro 比并列最高参考分数 71.6% 高 2.3 个百分点。 §6.4 Web Agent Results
• 长时程 SFT 使 Nano 的桌面成功率提高 7.4 个百分点，Mini 提高 15.0 个百分点，Pro 提高 10.0 个百分点；OSWorld 2.0 partial 分数分别提高 16.7、20.7 和 33.0 个百分点。 §6.5 Progress Across Training Stages
• Ultrafast Head + LoRA 在平均任务时间 266.8 s 下达到 60.6% WebArena 成功率，而 Full generation 在 616.8 s 下为 64.2%，实现了 2.3 倍的缩减；direct-action bypass 为 31.1%，而 Head-only 为 40.2%。 §6.8 NorthCUA-Ultrafast

• 所提供文本的 §8 Limitations and Responsible Use 部分未列出明确局限性，因此更广泛的安全与伦理限制在那里未得到讨论。
• Ultrafast 自适应结果来自一个训练种子，且状态可能共享同一任务；如 E.7.3 和 6.8 所述，LoRA 结果是验证比较。
• 如 6.8 所述，在线 Ultrafast 计时比较使用固定的 320 任务成功筛选子集，而不是全部 812 个任务。
• 如 6.5 所述，阶段比较衡量包含数据选择和额外优化的完整训练转换，而不是孤立组件效应。

• Experience Flywheel 通过扩展意图、环境和验证器来构建单步 grounding 对和可执行任务，然后整理经过评估的轨迹。 §4 Experience Flywheel: Scaling Grounding and Agentic Experience
• 长时程执行使用带动作叠加的滑动视觉窗口、保留任务的压缩，以及智能体编写的结构化笔记。 §3.2 Sustaining Long-Horizon Interaction
• 评估器充当 agent-as-a-judge，在基于任务的多维评分标准下结合记录证据和实时工作区检查。 §3.3 Agentic Outcome Evaluation
• 批量 rollout 将集中式智能体控制与隔离的设备工作进程分离，流水线化环境准备，并应用阶段特定的并发与恢复。 §3.4 Reliable Batch Rollout at Scale
• 递归自我改进通过技能引导的知识积累和里程碑引导的进展积累来处理困难任务，同时保持原始验收条件不变。 §4.3 Recursive Self-Improvement for Hard-Task Collection
• 广泛 GUI 中期训练报告了超过 100,000 条轨迹和超过 4 百万个 GUI 交互步骤，外加约 40,000 个单步 grounding 示例。 §5.1 Broad GUI Mid-Training
• 经过验证的长时程 SFT 使用约 3,000 条轨迹和 310,000 个 GUI 交互步骤；RL 池约有 1,500 个桌面任务和 500 个 Web 任务。 §5.2 Verified Long-Horizon SFT
• 联合桌面-Web RL 通过收集至少五次 SFT 策略 rollout 并选择在有效验证器分数之间存在变化的案例来筛选任务。 §5.3.1 Selecting Tasks with Outcome Variation