FutureBridge: Token Selection Beyond Local Preference in Collaborative Decoding

📄 arXiv: 2608.06819v1 📥 PDF

作者: Quanquan Li, Hongbo Zhang, Yihe Chi, Jingyu Li, Xidong Xi, Liuyang Song, Hongzhen Zhang, Yuxiang Huang, Jing Ke, Siyuan Ma, Junyi Lin, Guitao Cao

分类: cs.CL, cs.AI

发布日期: 2026-08-07

💡 一句话要点

提出FutureBridge以解决小型语言模型推理支持不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 协作解码 小型语言模型 大型语言模型 数学推理 token选择 推理支持 模型优化

📋 核心要点

  1. 现有方法依赖LLM的局部偏好进行token选择，未能考虑SLM的推理能力，导致协作效果不佳。
  2. FutureBridge通过评估token候选在共享上下文中的支持程度，优化了LLM与SLM的协作解码过程。
  3. 在五个数学推理基准测试中，FutureBridge显著提升了SLM的性能，验证了其有效性。

📝 摘要（中文）

本文提出了一种名为FutureBridge的方法，旨在通过超越局部偏好的方式，在协作解码中优化大型语言模型（LLM）与小型语言模型（SLM）之间的token选择。现有方法依赖于LLM生成的干预token或基于LLM的下一个token概率进行候选排名，但这些方法未能充分考虑SLM的后续推理能力。FutureBridge通过评估token候选在共享上下文中的支持程度，来改进SLM的推理过程。在五个数学推理基准测试中，FutureBridge相较于贪婪SLM解码，提升了Qwen3-1.7B SLM的数学平均分数35.1%。

🔬 方法详解

问题定义：本文旨在解决现有协作解码方法中，LLM与SLM之间token选择的局限性，尤其是未能考虑SLM后续推理能力的问题。现有方法往往依赖于LLM的局部偏好，导致SLM难以有效利用选定的token。

核心思路：FutureBridge的核心思想是通过评估token候选在共享上下文中的支持程度，来优化token选择过程。具体而言，利用一个经过验证的LLM轨迹提供固定的共享未来，SLM在此上下文中评估每个候选token的有效性。

技术框架：FutureBridge的整体架构包括两个主要阶段：训练阶段和推理阶段。在训练阶段，使用LLM生成的答案验证轨迹来创建共享上下文，并通过SLM评估候选token。在推理阶段，LLM仅用于扩展候选池，选择一个token后返回给SLM。

关键创新：FutureBridge的创新之处在于其token选择机制不再单纯依赖于LLM的局部偏好，而是通过建模SLM对候选token的后续推理能力来进行选择。这一方法显著提高了SLM的推理效果。

关键设计：在设计上，FutureBridge采用了轻量级的token重排序器，仅观察当前状态和候选token，避免了对未来后缀的生成或附加。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在五个数学推理基准测试中，FutureBridge显著提升了Qwen3-1.7B SLM的数学平均分数，提升幅度达到35.1%。这一结果表明，基于SLM推理能力的token选择机制优于传统的基于LLM局部偏好的方法。

🎯 应用场景

FutureBridge的研究成果在多个领域具有广泛的应用潜力，尤其是在需要高效推理的自然语言处理任务中，如数学推理、对话系统和智能问答等。通过优化LLM与SLM的协作解码，该方法能够提升模型在复杂任务中的表现，推动智能系统的进一步发展。

📄 摘要（原文）

Token-level collaboration allows a large language model (LLM) to assist a small language model (SLM) when their predictions diverge. Existing methods either use LLM-generated intervention tokens or rank candidates with the LLM's next-token probabilities. Both rely on the LLM's local preference, even though an LLM-selected token may be difficult for the SLM to build on. We present FutureBridge, which ranks joint LLM-SLM token candidates according to how well they support the SLM's subsequent reasoning. During training, an answer-verified LLM trajectory supplies a fixed shared future, and a frozen SLM evaluates every candidate under this common context. The resulting counterfactual scores supervise a lightweight token reranker that observes only the current state and candidate token. At inference, FutureBridge uses the LLM only to expand the candidate pool, selects one token, and returns generation to the SLM without generating or appending a future suffix. Across five mathematical reasoning benchmarks, FutureBridge improves the Qwen3-1.7B SLM's Math Avg. by 35.1% relative to greedy SLM decoding. These results indicate that token selection benefits from modeling whether the receiving SLM can use each candidate to continue reasoning, rather than relying on the LLM's local preference alone.