Weakness Localization Is Not Enough: State-Aware Recursive Knowledge Improvement for Large Language Models
作者: Runze Jiang, Yan Wang, Boran Jin, Bingyu Zhu, Longtao Huang
分类: cs.CL
发布日期: 2026-10-27
备注: 18 pages, 8 figures
💡 一句话要点
提出递归知识改进方法以解决大语言模型知识状态不明确问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 知识改进 大语言模型 状态感知 递归干预 图结构 智能问答 自然语言处理
📋 核心要点
- 现有方法仅能定位知识弱点，但无法有效指导如何改进，导致干预选择的模糊性。
- 提出递归知识改进（RKI），将知识改进视为一个状态感知的干预过程，通过图结构组织知识。
- RKI在HotpotEval和SafeInternalEval上表现优异，平均提升18.41分，显示出更好的干预选择能力。
📝 摘要（中文）
在大语言模型的知识改进中，研究者们逐渐从预定义的知识整合流程转向评估引导的更新。现有方法通过评估来定位模型特定的知识弱点，并指导针对性的后训练。然而，仅仅识别出需要改进的内容并不足以决定如何改进，因为相同的弱点可能对应不同的知识状态。为了解决这一问题，本文提出了递归知识改进（RKI），将知识改进视为一个顺序的、状态感知的干预过程。RKI通过图结构单元组织知识，为跨轮次的诊断评估和针对性干预提供共享基础。实验结果表明，RKI在HotpotEval和SafeInternalEval上平均超越现有知识整合方法18.41分。
🔬 方法详解
问题定义：本文旨在解决大语言模型在知识改进过程中存在的知识状态不明确问题。现有方法虽然能够定位知识弱点，但无法有效指导如何进行针对性的改进，导致干预选择的模糊性和低效性。
核心思路：论文提出的递归知识改进（RKI）方法，通过将知识组织为图结构单元，形成一个状态感知的干预过程，能够在每一轮中根据诊断证据和干预历史选择合适的干预措施，从而提高知识改进的有效性。
技术框架：RKI的整体架构包括多个模块：首先是知识弱点定位模块，其次是知识状态估计模块，接着是干预选择模块，最后是模型更新和再评估模块。每个模块在每一轮中相互作用，形成闭环反馈。
关键创新：RKI的主要创新在于引入了知识状态的概念，允许模型在不同的知识状态下进行针对性的干预选择。这一方法与现有的知识整合方法相比，提供了更高的诊断分辨率和干预选择能力。
关键设计：在RKI中，知识通过图结构进行组织，确保不同知识单元之间的关联性。同时，设计了适应性干预选择机制，以便在模型更新后能够动态调整干预策略，确保持续有效的知识改进。
🖼️ 关键图片
📊 实验亮点
在HotpotEval和SafeInternalEval的实验中，RKI方法平均提升了18.41分，显著超越了现有的知识整合方法。这一结果表明，RKI在知识状态感知和干预选择方面具有显著优势，能够有效提升模型的整体性能。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、智能问答系统和对话生成等。通过提高大语言模型的知识改进能力，能够显著提升模型在复杂任务中的表现，进而推动智能系统的实际应用和发展。未来，RKI方法还可能扩展到其他领域，如图像识别和推荐系统等，具有广泛的影响力。
📄 摘要（原文）
Knowledge improvement in large language models is shifting from predefined knowledge incorporation pipelines toward evaluation-guided updating. Existing methods use evaluation to localize model-specific knowledge weaknesses and guide targeted post-training. However, identifying what to improve does not necessarily provide sufficient information for deciding how to improve it. The same localized weakness can be compatible with distinct operational knowledge states: the relevant knowledge may be unavailable, available but difficult to access reliably, or accessible but ineffective for downstream use. We call this ambiguity knowledge-state aliasing. When compatible states favor different interventions, greater diagnostic resolution alone is insufficient for intervention selection. Moreover, model updates can change the underlying knowledge state before the observed weakness disappears, such that an intervention appropriate in one round may no longer address the bottleneck in the next. To address these challenges, we propose Recursive Knowledge Improvement (RKI), which formulates knowledge improvement as a sequential, state-aware intervention process. RKI organizes knowledge into graph-structured units that provide a shared basis for diagnostic evaluation and targeted intervention across rounds. At each round, RKI localizes knowledge weaknesses, estimates the model's operational knowledge state from diagnostic evidence and intervention history, selects a corresponding intervention, and re-evaluates the updated model before determining the next intervention. On HotpotEval and SafeInternalEval, RKI outperforms existing knowledge incorporation methods by 18.41 points on average. Further analyses show that knowledge states provide additional guidance for intervention selection beyond weakness localization and can change across model updates even when the observed weakness persists.