Delayed Verification Destabilizes Multi-Agent LLM Belief: Instability Thresholds and Optimal Corrector Placement
作者: Igor Itkin
分类: cs.MA, cs.CL, cs.LG, eess.SY
发布日期: 2026-06-25
备注: 20 pages, 5 figures, 1 table. Code and data: https://github.com/YehudaItkin/delayed-verification-llm
💡 一句话要点
提出延迟验证机制以解决多智能体LLM信念不稳定问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多智能体系统 大型语言模型 延迟共识 稳定性分析 优化算法
📋 核心要点
- 现有多智能体LLM系统在验证过程中存在延迟，导致错误信息在网络中传播，影响系统稳定性。
- 论文提出了通过基础拉普拉斯谱分解建模延迟共识过程，得出验证剂量的稳定性阈值，并优化修正者节点的放置。
- 实验结果表明，验证剂量与延迟的振荡现象与理论预测一致，且基础事实回答能够消除不稳定性。
📝 摘要（中文）
多智能体大型语言模型（LLM）系统通常依赖于验证者和批评者代理来抑制幻觉，但验证存在延迟。在此延迟期间，错误声明可能在代理网络中传播。本文将这一过程建模为图上的延迟共识，并通过基础拉普拉斯谱分解得出验证剂量的闭式稳定性阈值：过强或过迟的修正可能导致共识转变为振荡。当通信和验证延迟重合时，最不稳定的状态出现；对于延迟为2的情况，阈值为逆黄金比例。该框架还提供了超模组合放置目标和贪婪（1-1/e）近似规则，以将有限的修正预算分配给影响力节点。五个开放模型的实验验证了预测的剂量-延迟振荡。相对而言，基础事实回答使真相成为吸收边界，消除了这一效应，表明不稳定性特定于有符号信念任务，而基础验证仍具有稳定作用。
🔬 方法详解
问题定义：本文解决的是多智能体LLM系统中，由于验证延迟导致的错误信息传播和信念不稳定问题。现有方法未能有效处理延迟带来的共识振荡现象。
核心思路：论文的核心思路是将延迟共识建模为图上的动态过程，通过基础拉普拉斯谱分解来分析系统的稳定性，并提出优化修正者节点的放置策略，以提高系统的抗干扰能力。
技术框架：整体架构包括延迟共识模型、基础拉普拉斯谱分析、稳定性阈值计算和修正者节点的贪婪放置策略。主要模块包括延迟传播模型、稳定性分析模块和优化分配模块。
关键创新：最重要的技术创新在于提出了一个闭式的稳定性阈值公式，并揭示了通信与验证延迟重合时的最不稳定状态。这一发现为理解多智能体系统中的动态行为提供了新的视角。
关键设计：关键设计包括对验证剂量的精确计算、延迟的量化分析，以及贪婪算法的实现，以确保在有限预算下最大化修正效果。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在五个开放模型中，验证剂量与延迟的振荡现象与理论预测高度一致，验证剂量的优化能够显著提高系统的稳定性。具体而言，当验证延迟为2时，系统的稳定性阈值为逆黄金比例，验证效果显著优于传统方法。
🎯 应用场景
该研究的潜在应用领域包括多智能体系统的协作任务、智能对话系统和自动化决策支持等。通过优化验证机制，可以提高系统的稳定性和可靠性，进而提升用户体验和决策质量。未来，该方法可能在更广泛的人工智能应用中发挥重要作用。
📄 摘要（原文）
Multi-agent large language model (LLM) systems often rely on verifier and critic agents to suppress hallucinations, but verification is delayed. During this delay, false claims can propagate through the agent network. We model this process as delayed consensus on a graph with grounded corrector nodes. Spectral decomposition by the grounded Laplacian yields a closed-form stability threshold for the verification dose: correction that is too strong or too delayed can turn consensus into oscillation. The most unstable regime occurs when the communication and verification delays coincide; for delay two, the threshold is the inverse golden ratio. The same framework gives a supermodular placement objective and a greedy (1-1/e)-approximation rule for assigning a limited corrector budget to influential nodes. Experiments across five open models confirm the predicted dose-delay oscillations. By contrast, grounded factual answering makes truth an absorbing boundary and eliminates the effect, suggesting that the instability is specific to signed-belief tasks while grounded verification remains stabilizing