An Omitted Mode Is a Rare Rule: The Sampling-Verification Danger Law in Continuous Code World Models
作者: Javier Aguilar Martín
分类: cs.LG, cs.AI, eess.SY
发布日期: 2026-08-18
备注: 92 pages, 5 figures. Code, data and result artifacts: https://github.com/JaviMaligno/code-world-models
💡 一句话要点
提出采样验证危险法则以解决连续控制中的模式遗漏问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 代码世界模型 采样验证 连续控制 风险评估 模式遗漏 LLM合成 规划器 数学推导
📋 核心要点
- 现有的代码世界模型在连续控制中存在模式遗漏的问题，导致规划器在关键事件上表现不佳。
- 本文提出了一种新的采样验证危险法则，明确了接受模型的风险及其在连续控制中的影响。
- 实验结果表明，GPT-5.x能够有效修复模式遗漏，且在多次实验中表现出高达95%的准确率。
📝 摘要（中文）
在代码世界模型范式中，LLM合成可执行的世界模型，经典规划器进行搜索，并在重现采样过渡时接受该模型。本文探讨这种接受在连续控制中的认证意义。我们定义了该流程的危险性为预期风险，并隔离其确切因素：N个独立同分布的门控回放全部错过概率为r的关键事件的概率为(1-r)^N。通过对三种混合工具的实验，发现接受的模式盲模型被利用，规划器在模式边界处的后悔几乎占据了可获得回报的全部。我们证明了一个局部预算，在边界点有效，且模型在某点的Lipschitz常数不超过L时，存在一定的体积不一致性。通过真实的LLM合成，GPT-5.x在111个包含模式的抽样中修复了105个遗漏的1D夹具，显示出较高的准确性。
🔬 方法详解
问题定义：本文旨在解决在代码世界模型中，规划器因模式遗漏而导致的性能下降问题。现有方法在关键事件的采样验证中存在显著的风险，影响了模型的可靠性。
核心思路：论文提出了一种新的采样验证危险法则，量化了在连续控制中接受模型的风险，特别是当多个独立样本未能捕捉到关键事件时的情况。
技术框架：整体流程包括模型的合成、采样验证和风险评估三个主要模块。首先，使用LLM合成可执行模型；其次，通过经典规划器进行采样验证；最后，评估模型在关键事件上的表现。
关键创新：最重要的技术创新在于定义了采样验证的危险法则，并通过数学推导明确了模型在边界点的表现与风险之间的关系。这一方法与现有的简单接受标准有本质区别。
关键设计：在模型设计中，设置了Lipschitz常数和容忍度等关键参数，以确保模型在不同条件下的一致性和可靠性。实验中使用了多种混合工具进行验证，确保结果的广泛适用性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，GPT-5.x在111个模式包含的抽样中成功修复了105个遗漏的1D夹具，准确率高达95%。在2D区域的实验中，未能恢复规则，显示出该方法在不同维度上的局限性，强调了针对特定问题的定向干预的重要性。
🎯 应用场景
该研究的潜在应用领域包括自动驾驶、机器人控制和智能制造等需要高可靠性的连续控制系统。通过改进模型的采样验证机制，可以显著提高系统在关键事件下的表现，降低风险，提升安全性。未来，这一方法有望推动更复杂系统的开发与应用。
📄 摘要（原文）
In the Code World Model paradigm an LLM synthesizes an executable world model that a classical planner searches, and the model is accepted when it reproduces sampled transitions. We ask what that acceptance certifies in continuous control. We define the pipeline's danger as an expected risk and isolate its exact factor: the probability that N i.i.d. gate rollouts all miss a critical event of probability r is exactly (1-r)^N; an independent acceptance sample adds its budget to the exponent. On three hybrid instruments the accepted mode-blind model is exploited: the planner is pinned at the mode boundary at a regret of nearly the whole attainable return. We prove a localization budget, valid at boundary points: models with Lipschitz constant at most L differing by eta at a point disagree above tolerance eps on a region of volume at least kappa((eta-eps)/L)^(d+m); the discontinuous reset modes studied pay no such budget. With real LLM synthesis, GPT-5.x repairs an omitted 1D clamp in 105 of 111 mode-containing draws -- every attempt exact on 50 of 56 instrument-stream blocks (95% CI [0.781, 0.960]). On 2D regions no artifact recovers the rule (0/156); eight targeted interventions leave the failure in place, and positive controls locate it: a located rule is not induced, while given form and location the constants follow exactly. A version-space certificate proves identification is class-relative: at the widest dose the declared fit succeeds in 20/20 blocks and every sample-consistent circle is within tolerance in 18/20. We prove a class of entry rules exactly consistent with every sample yet harmless at play, so identifiability is a measurable property of the instrument. Re-scoring all 1034 artifacts on independent samples confirms acceptance certifies sample consistency and no more: where the gate is provably informative it covers about two percent of the exploited planner's queries.