SFAD: Speculative Factuality-Aware Decoding
作者: Guanqiao Chen, Di Wang, Lijie Hu
分类: cs.CL
发布日期: 2026-09-01
💡 一句话要点
提出SFAD框架以解决大语言模型的上下文可信性问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 上下文可信性 大语言模型 对比解码 强化学习 推理效率
📋 核心要点
- 核心问题：现有的对比解码方法和后训练对齐在推理时计算开销过大，影响了大语言模型的效率和可信性。
- 方法要点：提出SFAD框架，通过构建偏好数据集和引入认知摩擦机制，优化上下文的可信性而不降低推理效率。
- 实验或效果：实验结果显示，SFAD在提高模型可信性的同时，实现了2.48倍的推理速度提升，具有实际应用价值。
📝 摘要（中文）
在大型语言模型中，上下文的可信性是一个关键挑战，直接影响其在知识密集型应用中的可靠性。现有的对比解码方法需要双重前向传递，导致推理计算开销加倍，而后训练对齐则需要大量的强化学习，计算成本高昂。为了解决这一问题，本文提出了SFAD框架，通过构建ConFide偏好数据集，利用直接偏好优化训练上下文可信的草稿模型。在推理过程中，利用认知摩擦检测潜在的幻觉，并通过不对称对数引导进行目标分布的精细调整。实验表明，SFAD显著提高了模型的可信性，并实现了2.48倍的速度提升，提供了一种高效的解决方案。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在生成过程中上下文可信性不足的问题。现有方法如对比解码和后训练对齐存在计算开销高、效率低下等痛点。
核心思路：论文提出的SFAD框架通过构建偏好数据集ConFide，利用直接偏好优化训练上下文可信的草稿模型，并在推理时引入认知摩擦机制，以提高生成的可信性。
技术框架：SFAD的整体架构包括两个主要阶段：首先是训练阶段，通过ConFide数据集进行模型的偏好优化；其次是推理阶段，利用认知摩擦检测潜在幻觉，并通过不对称对数引导进行目标分布的调整。
关键创新：SFAD的核心创新在于引入了认知摩擦机制和不对称对数引导，这与传统的双重前向传递和后训练对齐方法形成了鲜明对比，显著降低了推理的计算开销。
关键设计：在设计上，ConFide数据集包含细粒度的原子扰动，损失函数采用直接偏好优化，网络结构则通过残差基础的对数注入来实现目标分布的精细调整。实验中还设定了认知摩擦的阈值，以确保模型在推理时的高效性和准确性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，SFAD在上下文可信性方面显著优于现有方法，推理速度提升达到2.48倍，展示了其在效率和效果上的双重优势。这一成果为大型语言模型的实际应用提供了新的解决方案。
🎯 应用场景
SFAD框架在知识密集型应用中具有广泛的潜在应用，如智能问答、对话系统和内容生成等领域。通过提高生成内容的可信性，SFAD能够增强用户对模型输出的信任，从而推动相关技术的实际应用和发展。
📄 摘要（原文）
As one of the most critical challenges in large language models, contextual faithfulness directly determines their reliability in knowledge-intensive applications. This task is particularly challenging as it requires balancing factual consistency with generation efficiency. Contrastive decoding methods require dual forward passes (with and without context) to compare model outputs, doubling inference computational overhead, while post-training alignment demands extensive reinforcement learning with substantial computational overhead. To address this challenge, we present \textbf{SFAD}, a speculative decoding framework that enhances contextual faithfulness without inference degradation. We first construct \textbf{ConFide}, a preference dataset with fine-grained atomic perturbations, to train a context-faithful draft model via Direct Preference Optimization. During inference, Epistemic Friction detects potential hallucinations by quantifying distributional tension weighted by specialist certainty. When friction exceeds the threshold, Asymmetric Logit Steering refines the target distribution through residual-based logit injection; otherwise, standard speculation proceeds. Extensive experiments demonstrate that SFAD substantially improves faithfulness while achieving $2.48\times$ speedup, offering a practical solution for efficient LLMs.