CoBa: Cost-Effective Test-Time Scaling via Compute-Balanced Routing

📄 arXiv: 2608.07424v1 📥 PDF

作者: Yan Zhou, Yue Ouyang, Kaiyang Zheng, Suncheng Xiang

分类: cs.AI

发布日期: 2026-08-07

备注: 11 pages, 7 figures; includes supplementary material. Preprint

💡 一句话要点

提出CoBa以解决测试时间计算资源分配问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 测试时间推理 计算资源分配 候选解生成 验证策略 智能推理系统

📋 核心要点

  1. 现有方法在测试时间推理中面临计算资源分配的挑战，难以平衡生成与验证的效率。
  2. 论文提出CoBa策略，通过初步生成候选解并进行廉价验证，优化计算资源的使用。
  3. 实验结果显示，CoBa-Routed-Strong在准确率上接近最佳基线，同时显著减少了计算资源的消耗。

📝 摘要（中文）

测试时间缩放通常通过在某一方面增加计算资源来实现，如采样更多解、延长思考链或应用更强的评估器。在固定的推理预算下，这些选择相互竞争。本文将测试时间推理形式化为计算分配问题，系统需决定下一单位计算应花费在生成、验证或停止上。我们提出了CoBa，一种计算平衡的路由策略，首先获得一小组候选解，广泛应用廉价验证，并将不确定或高价值的候选解路由到更强的验证上。在MATH-500、AIME 2024/2025、AMC 2023和程序性符号推理的3,129个示例生成器评估中，CoBa-Routed-Strong达到了85.13%的宏观准确率，统计上与自评加权投票代理的85.20%相匹配，同时使用了49.1%更少的参数加权标记。

🔬 方法详解

问题定义：本文旨在解决测试时间推理中的计算资源分配问题。现有方法往往在生成和验证之间难以找到最佳平衡，导致资源浪费和效率低下。

核心思路：CoBa策略的核心思想是通过先生成一小组候选解，进行廉价的广泛验证，然后将不确定或高价值的候选解路由到更强的验证上，从而优化计算资源的使用。

技术框架：整体架构包括三个主要阶段：候选解生成、廉价验证和强验证路由。首先生成初步候选解，然后对其进行快速验证，最后将需要更深入验证的候选解进行强验证处理。

关键创新：CoBa的创新点在于其计算平衡的路由策略，能够有效地在生成与验证之间进行动态调整，与传统方法相比，显著提高了计算效率和准确性。

关键设计：在参数设置上，CoBa采用了轻量级的验证机制，并在损失函数中引入了计算资源的权重，以确保在不同阶段的计算分配合理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CoBa-Routed-Strong达到了85.13%的宏观准确率，接近最佳基线85.20%，同时使用了49.1%更少的参数加权标记。此外，CoBa在与16个基线方法的对比中，表现出优越的性能和更低的计算成本。

🎯 应用场景

该研究的潜在应用领域包括自动化推理系统、智能问答系统和复杂决策支持系统。通过优化计算资源的分配，CoBa能够提升这些系统的效率和准确性，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Test-time scaling is often implemented by spending more compute along one axis: sampling more solutions, extending a chain of thought, or applying a stronger evaluator. Under a fixed inference budget, these choices compete. This paper formulates test-time reasoning as a compute-allocation problem in which a system must decide whether the next unit of compute should be spent on generation, verification, or stopping. We introduce CoBa, a compute-balanced routing policy that first obtains a small set of candidates, applies cheap verification broadly, and routes uncertain or high-value candidates to stronger verification. On 3,129 example-generator evaluations spanning MATH-500, AIME 2024/2025, AMC 2023, and procedural symbolic reasoning, CoBa-Routed-Strong reaches 85.13% macro accuracy, statistically matching a self-evaluation weighted-voting proxy at 85.20% while using 49.1% fewer parameter-weighted tokens. It also matches best-of-16 majority voting within 0.01 macro-accuracy points while using 58.9% fewer parameter-weighted tokens; paired tests retain a small best-of-16 edge at substantially higher cost. Paired bootstrap tests show significant gains over single-sample decoding, while the remaining gap to the pool oracle exposes headroom for sharper routing. For local reasoning systems, test-time scaling becomes a question of where the next computation is most valuable.