Why2Speak: Faithful Reasoning for Abstaining Action Policies
作者: Shreya Mendi, Brinnae Bent
分类: cs.AI, cs.CL
发布日期: 2026-08-21
💡 一句话要点
提出Why2Speak以解决多方对话中的行动与沉默选择问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 智能助手 多方对话 推理可审计性 决策策略 强化学习 监督微调
📋 核心要点
- 核心问题：现有方法在多方对话中面临类别不平衡和非对称行动成本等挑战，导致推理与决策之间的信任缺失。
- 方法要点：论文提出通过比较不同策略（直接决策、推理策略等）来研究推理的可审计性与决策质量之间的权衡。
- 实验或效果：实验结果显示，最强直接策略在质量上优于推理策略，但缺乏可审计的推理过程，影响了整体性能。
📝 摘要（中文）
许多智能系统需要在行动与沉默之间反复选择，因此忠实推理对于监督至关重要：解释只有在反映产生行动的计算时才有用。我们通过多方对话中的干预时机研究这一问题，助理必须决定是发言还是保持沉默。该场景暴露了类别不平衡、非对称行动成本以及暴露推理可能改变审计策略的可能性。使用Qwen3-8B，我们比较了直接决策策略、推理策略、监督微调和强化学习。我们发现能力与可审计性之间的权衡：最强的直接策略质量更高，但没有可供检查的推理，而推理策略提供了追踪，但性能较低，尤其是在真实干预机会的召回上。监督微调要么抑制推理，要么在不提高决策质量的情况下保留推理，而强化学习也未能改善推理策略。
🔬 方法详解
问题定义：论文要解决的问题是如何在多方对话中有效地选择行动或沉默，同时确保推理过程的可审计性。现有方法在处理类别不平衡和非对称行动成本时存在不足，导致推理与决策之间的信任缺失。
核心思路：论文的核心思路是通过对比不同的决策策略（如直接决策和推理策略），分析推理过程对决策质量的影响。通过这种方式，研究者希望找到一种平衡，使得推理既能被审计又不影响决策性能。
技术框架：整体架构包括数据收集、模型训练和评估三个主要阶段。首先，通过多方对话数据进行模型训练，然后使用Qwen3-8B进行策略比较，最后评估不同策略的决策质量和推理可审计性。
关键创新：最重要的技术创新点在于识别出能力与可审计性之间的权衡，提出了新的评估标准来衡量推理的有效性与决策的质量。这与现有方法的本质区别在于，强调了推理过程对决策策略的潜在影响。
关键设计：在实验中，采用了不同的损失函数和参数设置，以优化推理策略的性能。同时，使用了强化学习和监督微调的方法来探索推理与决策之间的关系，确保模型在不同情况下的适应性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，最强的直接决策策略在质量上显著优于推理策略，但缺乏可审计的推理过程。推理策略虽然提供了可追踪性，但在真实干预机会的召回上表现较差。这一发现揭示了能力与可审计性之间的权衡，强调了推理过程对决策的影响。
🎯 应用场景
该研究的潜在应用领域包括智能助手、对话系统和人机交互等。通过改进推理的可审计性，能够提升智能系统在复杂场景中的决策能力，增强用户对系统的信任。未来，这一研究可能推动更高效的智能决策支持系统的发展。
📄 摘要（原文）
Many agentic systems must repeatedly choose between acting and abstaining, making faithful reasoning important for oversight: an explanation is useful only if it reflects the computation that produced the action. We study this problem through intervention timing in multi-party conversation, where an assistant must decide whether to speak or remain silent. This setting exposes class imbalance, asymmetric action costs, and the possibility that exposing reasoning changes the policy being audited. Using Qwen3-8B, decoded with or without chain-of-thought reasoning, we compare direct decision policies, reasoning policies, supervised fine-tuning, and reinforcement learning. We find a capability-auditability tradeoff: the strongest direct policy achieves higher quality but exposes no reasoning to inspect, while the reasoning policy provides a trace at the cost of lower performance, particularly recall of true intervention opportunities. Supervised fine-tuning either suppresses reasoning or preserves it without improving decision quality, while reinforcement learning also fails to improve the reasoning policy. We identify one mechanism underlying this failure: group relative objectives provide no learning signal on confidently wrong prompts when sampled rollouts all select the same action. Controlled activation probes and behavioral ablations show that standard faithfulness methods can overstate evidence that exposed reasoning reflects the underlying decision process. Probability-based metrics saturate under confident decisions, probes are vulnerable to class imbalance and textual leakage, and reasoning ablations can confound reasoning content with changes in inference mode. Together, these results show that exposing reasoning can change an agent's action policy rather than simply make it observable. We provide controls for evaluating reasoning-based oversight of agents that can act or abstain.