Encoded but Not Actionable: Auditing the Decode-Generate-Steer Gap in Frozen LLMs for Geometric Constraints
作者: Man Liang, Xinzhao Cheng, Faizan Wajid
分类: cs.CL, cs.AI
发布日期: 2026-08-18
备注: 13 pages, 7 figures, 8 tables, including appendices
💡 一句话要点
审计冻结LLM中的解码生成控制差距以解决几何约束问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 几何推理 参数化CAD 解码能力 信息表达 模型可控性 结构化推理
📋 核心要点
- 现有大型语言模型在几何推理任务中表现良好，但其编码信息与模型行为之间的关系尚不明确。
- 本文通过探测冻结的解码器LLM的隐藏状态，提出了一种审计方法来区分几何结构的编码失败与表达或控制信息的失败。
- 实验结果显示，预训练显著提升了局部几何关系的解码能力，但草图级自由度状态的可解性在随机初始化中已较高，且生成过程常常无法有效表达可解信息。
📝 摘要（中文）
大型语言模型（LLMs）在结构化推理任务中表现出色，但其编码内容及其对模型行为的影响仍不明确。本文通过几何推理，利用参数化CAD约束作为受控测试平台，探讨了局部成对关系与草图级约束状态的区别。我们对六个冻结的解码器LLM的隐藏状态进行了探测，考察了线性可解性、强制选择生成、激活水平影响和行为可控性四个属性。预训练显著提升了局部几何关系的解码能力，而草图级自由度状态的可解性在随机初始化的表示中已较高，且预训练的提升有限。进一步分析表明，可解信息并不总是可操作的，生成过程常常无法有效表达这些信息。这些结果揭示了在测试环境中可解性、生成、激活水平影响和可控性之间的差异。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在几何推理任务中编码信息与模型行为之间的关系不明确的问题。现有方法未能有效区分几何结构的编码失败与信息表达或控制的失败。
核心思路：通过对六个冻结的解码器LLM的隐藏状态进行探测，分析其在局部几何关系和草图级约束状态的解码能力，提出一种审计方法来评估模型的可解性和可控性。
技术框架：研究采用参数化CAD约束作为测试平台，分为四个主要模块：线性可解性分析、强制选择生成、激活水平影响评估和行为可控性测试。
关键创新：本研究的创新点在于通过审计方法系统性地分析了LLM的解码能力与生成能力之间的差异，揭示了可解信息并不总是可操作的这一重要发现。
关键设计：在实验中，采用了随机初始化与预训练的对比实验，设置了不同的激活恢复策略，并对生成过程中的输出控制进行了深入分析。
🖼️ 关键图片
📊 实验亮点
实验结果表明，预训练显著提升了局部几何关系的解码能力，且草图级自由度状态的可解性在随机初始化中已达到较高水平。生成过程中的信息表达能力不足，导致可解信息未能有效转化为可操作输出，这一发现为后续模型改进提供了重要依据。
🎯 应用场景
该研究为理解大型语言模型在几何推理任务中的表现提供了新的视角，潜在应用于计算机辅助设计、机器人路径规划等领域。通过提升模型对几何结构的理解能力，未来可推动更智能的设计工具和自动化系统的发展。
📄 摘要（原文）
Large language models (LLMs) have demonstrated strong performance on structured reasoning tasks, but what they encode and whether it informs model behavior remain unclear. We investigate this question through geometric reasoning, using parametric CAD constraints as a controlled testbed for separating local pairwise relations from sketch-level constraint status. By probing the hidden states of six frozen decoder-only LLMs, we examine four properties: linear decodability, forced-choice generation, activation-level influence, and behavioral steerability. Pretraining substantially improves the decoding of local geometric relations, and this advantage persists after accounting for positional cues with shuffled-order controls. In contrast, sketch-level DOF status is already highly decodable from randomly initialized representations and improves only modestly with pretraining, indicating that much of its probe performance is available without learned weights. Further analyses show that decodable information is not always actionable. Generation often fails to express this information, and on the two intervention-tested backbones, activation-restoration effects at the patched entity position vanish while decodability persists across depth. Mean-difference steering also does not reliably control outputs. These results show that decodability, generation, activation-level influence, and steerability can diverge in the tested setting. The audit provides a controlled way to distinguish failures to encode geometric structure from failures to express or control encoded information.