导航菜单
CUA-Master: Scaling Computer-use Agents through Open-World Recursive Improvements
Xinlei Yu, Gen Li, Ji Zhao, Zhangquan Chen, Congcong Wang, Shuai Dong et al.
2026-11-03▲ 94arXiv 2611.03126v1Hugging Face代码
本页由 AI 根据论文全文生成(deepseek-flash),可能有误,请以原文为准。
一句话
CUA-Master 是一个嵌套双环递归框架,它将开放世界种子构建与基于原语的任务合成同迭代模型训练耦合起来,以提升计算机使用智能体。
要解决的问题
开发能够可靠执行多样化长时程跨应用工作流的 CUA,其瓶颈在于数据构建与模型优化如何耦合。现有流水线通常是单向的,因此新增数据未必能针对不断演化的模型弱点,而递归改进方法主要依赖封闭世界中的自生成经验,可能强化偏差且收益递减。合成数据生成还面临多样性、可控性和可靠性相互交织的挑战,且人工标注轨迹成本高且覆盖范围有限。
方法
CUA-Master 是一个嵌套双环递归框架:外层世界-数据-模型飞轮利用不断演化的模型弱点来指导开放世界数据构建与优化,而内层数据飞轮将开放世界种子构建与自催化传播耦合起来。开放世界种子构建使用分层应用分类体系检索教学视频,对其进行过滤,将种子任务挖掘为时序片段,并通过视觉-语义双路径触发加标注器复核来重建轨迹。自催化传播将种子任务原语化为应用级能力原语,并将兼容原语组合成具有受控复杂度 K 和应用数量 N 的合成任务,生成任务级验证器。轨迹收集使用反馈引导的快照-回滚重试机制,该机制恢复最新的有效快照,保留稳定前缀,并带着诊断反馈继续执行,直到验证通过或重试预算耗尽。训练使用来自同一基础检查点的 SFT 迭代,随后在最终迭代中基于高质量合成任务并使用基于结果的验证器奖励进行 RL。
实验结果
- CUA-Master-27B 在 OSWorld Verified、OSWorld 2.0、WeaveBench 和 Agents' Last Exam 上分别得分 80.2、36.9、43.9 和 25.0,并在四个基准上相较 UI-Mate-27B 分别提升 2.6、12.9、25.6 和 11.8。 §3.2.1
- 在 OSWorld Verified 上,它仅用 8 分钟就达到 80.2;在 OSWorld 2.0 上,它略超 Qwen-3.8-27B,同时将运行时间减少 24%;在 WeaveBench 上,它以少 28% 的运行时间达到 GPT-5.6-Luna 的水平;在 Agents' Last Exam 上,它以少 34-36% 的时间达到 Kimi-K3 和 Qwen-3.8-Max 的水平。 §3.2.2
- 在 WeaveBench 上,混合执行得分为 43.9,而仅 GUI 为 6.6、仅 CLI 为 11.5,分别提升 37.3 和 32.4 分,同时相较仅 GUI 减少 23.8% 的步骤;在 Agents' Last Exam 上,相较仅 GUI 从 5.9 提升到 25.0,且步骤减少 26.7%;在 OSWorld 2.0 上,步骤减少 43.8%。 §3.3.1
- 在包含 3 个应用、40 个原语的配置下,rollout 成功率接近 50%,而基线为 14.6%;在最具挑战性的配置下,成功率为 18.7%,而基线为 0.0%。 §3.3.2
- 连续训练迭代提升了全部四个基准上的性能,其中 OSWorld Verified 和 WeaveBench 提升超过 25 分;最终 RL 阶段进一步将 OSWorld 2.0 和 Agents' Last Exam 提升约 15 分。 §3.3.3
- CUA-Master-27B 在 WindowsAgentArena、MacOSWorld 和 MacAgentBench 上分别达到 56.2、43.0 和 59.9。 §3.2.3
局限
- 递归改进流水线带来显著的计算与基础设施成本,尤其是来自大规模环境交互、轨迹收集和迭代模型优化;快照-回滚仍需要大规模 VM 部署支持。(§E)
- 合成数据质量的上限依赖具备能力的标注器模型,更强的标注器始终带来更大的性能收益;这种依赖引入额外推理成本,并在缺少强标注器时可能限制可用性。(§E)
要点
- CUA-Master 将外层世界-数据-模型飞轮与内层数据飞轮相结合,后者耦合开放世界种子构建和自催化传播。 §2.2
- 开放世界种子构建从教学视频中挖掘种子任务,并通过视觉-语义双路径机制重建轨迹。 §2.3
- 自催化传播提取应用级能力原语,并在受控复杂度和应用范围下将其组合为合成任务。 §2.4.1
- 反馈引导的快照-回滚重试机制恢复最新的有效快照,保留稳定前缀,并且仅保留成功且最高效的分支。 §2.4.2
- 混合动作空间支持 GUI 和 CLI 原子动作,指针坐标归一化为 [0,1000] 内的 x,y。 §2.1.2
- 环境基础设施支持超过 100 种不同的 CUA 环境,以及跨 Linux、Windows 和 MacOS 的超过 2,000 个并发运行 VM。 §2.1.3
- 训练使用分别包含 63K、38K 和 14K 任务及对应轨迹的 SFT 迭代,总计约 115K SFT 数据,随后使用约 12K 高质量任务进行 RL。 §3.1.3
- 训练数据围绕 8 个领域、36 个子领域和超过 650 个应用组织,产生 127K 样本,其中 115K 用于 SFT,12K 用于 RL。 §B
思维导图
登录
选择一种方式继续
登录即表示你同意我们的服务条款和隐私政策