ChronoState: Hidden Elapsed-Time Conditioning for Temporal-State Action Selection in Frozen-Backbone Language Models
作者: Sam Siavoshian, Omar Ramadan, Amir K. Saeed, Benjamin A. Johnson, Amin Mohamed El-Amin Diab, Benjamin M. Rodriguez
分类: cs.AI
发布日期: 2026-08-10
备注: Submitted to SPIE Defense and Commercial Sensing 2027
💡 一句话要点
提出ChronoState以解决语言模型中的时间状态选择问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 时间状态选择 语言模型 隐藏时间 符号任务 决策系统
📋 核心要点
- 现有语言模型在处理时间相关决策时,往往无法有效结合符号状态与时间信息,导致性能不足。
- 本文提出ChronoState,通过隐藏的时间注入通道,将经过的时间与符号状态结合,提升模型的时间决策能力。
- 实验结果显示,使用ChronoState的模型在时间动作选择上达到了0.9305的准确率,显著优于对照组,表明该方法的有效性。
📝 摘要(中文)
在语言模型系统中,时间决策通常依赖于符号任务状态和经过的墙钟时间。本文研究了如何将经过的时间作为非标记的系统侧标量,与可见的符号状态结合,利用冻结的骨干语言模型进行时间状态选择。我们提出了ChronoState,一个组合的时间状态基准,其中符号状态出现在提示中,经过的秒数通过隐藏的计时注入通道提供,模型选择强制性的时间动作。实验结果表明,使用隐藏时间的模型在准确性上显著优于无时间和随机时间的控制组,尽管在某些转移任务上表现较弱。
🔬 方法详解
问题定义:本文解决的问题是如何在冻结的语言模型中有效结合符号任务状态与经过的时间,以提升时间决策的准确性。现有方法在这一点上存在局限,无法充分利用时间信息。
核心思路:论文的核心思路是引入ChronoState基准,通过隐藏的计时注入通道,将经过的时间作为非标记信息与符号状态结合,从而增强模型的时间感知能力。
技术框架:整体架构包括一个冻结的Qwen2.5-3B-Instruct模型,使用31维的正弦加对数时间编码,结合门控FiLM残差调制和秩-8的LoRA动作表面。模型通过隐藏时间信息进行计算,而用户不可见。
关键创新:最重要的技术创新在于引入了隐藏的时间注入机制,使得模型能够在不直接依赖用户输入的情况下,利用时间信息进行决策。这与传统的时间处理方法有本质区别。
关键设计:在设计上,使用了31维的时间编码和门控FiLM调制,确保模型能够有效地处理时间信息。此外,实验中还设置了多种对照组,以验证隐藏时间的有效性。实验结果显示,隐藏时间的模型在准确性上显著优于无时间和随机时间的对照组。
🖼️ 关键图片
📊 实验亮点
实验结果显示,使用ChronoState的模型在时间动作选择上达到了0.9305的准确率和0.9410的平衡准确率,明显优于无时间控制组的0.5511和随机时间控制组的0.3323,验证了隐藏时间的有效性和模型的时间决策能力。
🎯 应用场景
ChronoState的研究成果在多个领域具有潜在应用价值,尤其是在需要时间敏感决策的任务中,如自动化调度、智能助手和实时系统等。通过有效结合时间信息,模型能够更好地理解和响应动态环境中的变化,从而提升用户体验和系统效率。未来,该方法可能推动更广泛的时间感知AI系统的发展。
📄 摘要(原文)
Temporal decisions in language-model systems often depend on both symbolic task state and elapsed wall-clock time, such as cache expiration, job completion, quota resets, deadlines, or stale sessions. We study whether elapsed time can be supplied as a non-token, system-side scalar and composed with visible symbolic state by a frozen-backbone language model. We introduce ChronoState, a compositional temporal-state benchmark in which symbolic state appears in the prompt, elapsed seconds tau are supplied through a hidden chronometric-injection channel, and the model selects a forced-choice temporal action. Here, "hidden" means hidden from the user-visible token sequence, not from model computation. Using Qwen2.5-3B-Instruct as a frozen bf16 backbone with a 31-dimensional sinusoidal-plus-log time encoding, gated FiLM residual modulation, and a rank-8 LoRA action surface, hidden-time CI reaches 0.9305 +/- 0.0134 accuracy and 0.9410 +/- 0.0103 balanced accuracy. No-time and shuffled-time controls fall to 0.5511 +/- 0.0042 and 0.3323 +/- 0.0097, respectively, with high shuffled-time wrong-state consistency supporting causal dependence on the injected scalar within the trained distribution. Generalization remains strong for held-out templates, durations, and multi-constraint compositions, but held-out quota-family transfer is weak at 0.5065 +/- 0.0559, while a fair prompt+LoRA timestamp baseline reaches 0.9893 +/- 0.0052. Thus, ChronoState supports a narrow conclusion: hidden elapsed time can be composed with symbolic task state under direct supervision, but does not establish autonomous time tracking, broad unseen-family abstraction, or superiority over prompt-injected timestamps.