Does Scaling Toward AGI Depend on What System-1 Lets System-2 Execute?

论文给出了有保留的肯定回答：将轻量级 System-1 预测器与高成本 System-2 执行器协同设计，可在交互成本高、信息价值不均且可在执行前预测的场景中，把执行计算量降至接近 1/ρ_u。

通往 AGI 的进展在很大程度上依赖于扩展资源密集的 System-2：更大的模型、更多数据与计算、更长推理以及更多智能体。论文追问，下一阶段是否可能转而来自将 System-2 与一个在执行前评估候选交互的轻量级 System-1 协同设计。它聚焦于成本高、价值不等且可预测的交互，并追问哪些交互值得其成本。

论文在可行交互上定义条件交互策略，包含预测效用、阈值，以及在无候选被接纳时弃权。它将 Interaction Information Efficiency 定义为每单位筛选加执行成本带来的效用，并与 yield 配对报告。它将主条件交互目标表述为分数背包问题，其拉格朗日量给出阈值规则。它将协同设计分解为预测算子与执行算子，并分析固定误差曲线下的协同扩展。它将同一 predict–gate–execute–update 账本应用于训练、测试时推理、自适应决策，以及智能体工具使用或计算机使用。

• 在理想筛选且执行成本相等的条件下，执行计算量以接近 1/ρ_u 的因子下降；预测误差、探索和分布偏移会降低该节省。 §Abstract
• Interaction Information Efficiency 是每单位系统级成本所获得的效用；由于以极低成本获得极少收益也能提高该比值，因此它总是与 yield 一起报告。 §2.2 The Interaction Information Efficiency Metric
• 命题 13 给出比较静态结果：在固定误差曲线且 System-2 成本按 k≥1 缩放时，最优 System-1 规模集合随 k 非递减，最大 IIE 比值也随 k 非递减。 §3.2 Co-Scaling: System-1’s Size as System-2 Grows
• 命题 22 给出单探测测试时门控的界限：准确率损失至多为 δ_FN，计算量至多为无条件计算量的 ρ_u^tt + (1+c_pred)/C + δ_FP；当 C→∞ 且 δ_FP→0 时，乘数趋近 1/ρ_u^tt。 §6.1 Face I: Efficient Test-Time Scaling
• 命题 24 指出，在完美且免费的门控与常数 ρ_u 下，L_CI(C)=L_base(C/ρ_u)，因此在对数计算量轴上，条件曲线向左平移 ln(1/ρ_u)。 §7.1 The Scaling Hypothesis: Informative Compute
• 第 7.2 节指出，预测器在 p_train(i) ∝ p_cand(i)e(i) ≠ p_cand(i) 上训练，因此标签并非随机缺失；正性条件需要探索混合，或采用满足 e(i)≥e_min>0 的审计采样。 §7.2 Selective Supervision: The Gate Censors Its Own Training Data

• 论文指出，测试时效率主张连间接支持也缺乏：既未测量少量的有信息比例，也未测量准确的停止预测器。
• 命题 13 是固定误差曲线下的比较静态结果；它没有表明增大 System-1 是否有助于演化的执行器，也没有表明 System-1 应以何种速率增长。
• 门控对自身训练数据造成删失；论文指出 e_min 必须多大、逆倾向方差如何与筛选收益权衡，以及相关速率能否在自适应删失收集中保持，仍是开放问题。
• 智能体成本界假设动作可分离；论文指出，在长界面轨迹中以及当局部无信息动作是前提条件时，该界会失效，并且逐动作误差必须随时域增大而缩小。

• 条件交互是一个 predict–gate–execute–update 循环：System-1 预测每个候选的效用，System-2 执行被接纳的候选，结果再更新 System-1。 §2 Conditional Interaction as A Co-Design Strategy: Predict Before You Pay
• System-1 由执行角色而非模型家族定义：它以 c_pred << c_exec 的代价为候选打分，而 System-2 执行资源需求高的交互。 §2 Conditional Interaction as A Co-Design Strategy: Predict Before You Pay
• 该策略使用阈值 κ_t，并可在可接纳集合为空时弃权；β 控制可接纳候选之间的选择锐度与探索。 §2.1 Core Definition
• 主目标是分数背包问题；其拉格朗日阈值规则按每单位成本的价值顺序接纳候选。 §2.3 A Master Objective and Its Special Cases
• 算子分解先重新拟合 System-1，然后沿通过重新拟合后的门控采样得到的梯度更新 System-2。 §3.1 The Two Systems as an Operator Decomposition
• 命题 13 只确定协同扩展的方向，而不确定其速率；测量 fp、fn 和 c_pred 被描述为缩放定律在协同设计中的对应物。 §3.2 Co-Scaling: System-1’s Size as System-2 Grows
• 测试时扩展与自适应决策被表述为条件交互，其中推理计算量或动作成本作为账本。 §6 Conditional Interaction at Test Time
• 缩放假设将 ρ_u 视为可测量的缩放效率坐标，并使有信息计算量比总计算量成为更好的描述。 §7.1 The Scaling Hypothesis: Informative Compute