When are likely answers right? On Sequence Probability and Correctness in LLMs
作者: Johannes Zenn, Jonas Geiping
分类: stat.ML, cs.LG
发布日期: 2026-06-25
备注: 38 pages, including 10 pages of main text and 28 pages of appendix, preprint
💡 一句话要点
量化序列概率与正确性之间的关系以优化解码方法
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 序列概率 解码方法 大型语言模型 正确性评估 自然语言处理
📋 核心要点
- 现有解码方法的成功依赖于序列概率与正确性之间的关系，但这一关系并不总是可靠。
- 论文通过量化不同解码方法和超参数对序列概率与正确性关系的影响，提出了系统性的分析框架。
- 研究结果表明，尽管较高的序列概率在固定数据集内通常与正确性相关，但在解码决策中并不总是有效。
📝 摘要（中文）
许多大型语言模型的解码方法可以理解为将概率质量向更可能的输出转移。本文探讨了序列概率与正确性之间的关系，量化了不同解码方法、模型和基准在四个层面的表现。研究发现，在固定数据集内，较高的序列概率通常与正确性相关，但这种关系在解码决策中并不可靠。通过改变超参数或方法来提高序列概率并不一定能提高准确性，且对同一提示的响应，序列概率并不是良好的正确性指示器。这些发现为解码、内部一致性和无验证自我改进提供了实用指导。
🔬 方法详解
问题定义：本文旨在解决大型语言模型解码方法中序列概率与输出正确性之间的关系不明确的问题。现有方法在提高序列概率时，往往未能提升输出的准确性。
核心思路：通过系统地量化不同解码方法、超参数、提示-答案对及重复响应的序列概率与正确性之间的关系，论文提出了一种新的分析框架，以明确何时可以期待解码改进正确性。
技术框架：研究采用了多层次的分析方法，首先在不同解码方法之间进行比较，然后在同一方法内调整超参数，接着分析数据集中提示-答案对的表现，最后考察对同一提示的重复响应。
关键创新：论文的主要创新在于系统性地量化序列概率与正确性之间的关系，并揭示了在不同条件下这一关系的局限性，提供了实用的解码指导。
关键设计：研究中使用了多种解码方法和超参数设置，分析了它们对序列概率和正确性的影响，特别关注了在不同提示下的表现差异。
🖼️ 关键图片
📊 实验亮点
实验结果表明，在固定数据集内，较高的序列概率通常与正确性相关，但在解码决策中，改变超参数或方法并不可靠地提高准确性。这一发现为解码策略的选择提供了重要的实证依据。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理中的文本生成、对话系统和信息检索等。通过优化解码策略，可以提高模型在实际应用中的准确性和可靠性，进而提升用户体验和系统性能。
📄 摘要（原文）
Many decoding methods for large language models can be understood as shifting probability mass toward outputs that are more likely under the model, either locally at the token level or globally at the sequence level. Therefore, their success depends on a fundamental question: when does sequence probability, that is, the conditional probability of a continuation given a prompt, actually align with correctness? In this paper, we set out to quantify this relationship across decoding methods, models, and benchmarks at four levels: across decoding methods, across hyperparameters within a method, across prompt-answer pairs within a dataset, and across repeated responses to the same prompt. We find that higher sequence probability is often predictive of correctness across prompt-answer pairs within a fixed dataset. However, this relationship does not generally transfer to decoding decisions: increasing sequence probability by changing hyperparameters or methods does not reliably improve accuracy. Further, sequence probability is not a good indicator of correctness for responses to the same prompt. These findings clarify when decoding can and cannot be expected to improve correctness, and provide practical guidance for decoding, self-consistency, and verifier-free self-improvement.