ST$^2$U: Stateful Test-Time Unlearning via Restricted Knowledge Boundary Control

📄 arXiv: 2608.23034v1 📥 PDF

作者: Xunlei Chen, Qinghui Gong, Ruini Xue, Yaodong Hu, Tian Lan, Wenhong Tian

分类: cs.LG, cs.CL

发布日期: 2026-08-24

💡 一句话要点

提出ST$^2$U以解决大语言模型的状态性测试时遗忘问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 测试时遗忘 知识边界控制 自回归生成 动态调整

📋 核心要点

  1. 现有的激活编辑方法在处理自回归生成时存在局限，容易导致受限知识的重新进入。
  2. ST$^2$U通过轨迹范围的边界控制，监测推理过程中的风险并进行最小边界修正，减少知识重新进入。
  3. 在三个基准和三个模型系列的实验中，ST$^2$U在保留能力和遗忘效果上表现出色，相较于基线减少了13.76%-19.84%的受限知识重新进入率。

📝 摘要（中文）

控制大语言模型中的受限知识对于模型对齐和安全部署至关重要。测试时遗忘通过在推理过程中进行干预，避免了昂贵的重新训练和参数更新。然而，现有的激活编辑方法仅应用孤立的点对点修正，忽视了自回归生成如何持续从提示、缓存和生成前缀中重构隐藏状态。因此，在局部成功修正后，后续状态可能会重新进入受限知识区域。本文提出的ST$^2$U通过受限知识边界控制将测试时遗忘形式化为轨迹范围的边界控制，能够更持久地遗忘，同时保留非目标能力并限制推理开销。

🔬 方法详解

问题定义：本文旨在解决大语言模型在推理过程中受限知识的重新进入问题。现有方法的痛点在于仅进行局部修正，未能考虑自回归生成的动态特性。

核心思路：ST$^2$U的核心思路是将测试时遗忘视为轨迹范围的边界控制，通过建模受限知识边界来实现更持久的遗忘。该方法设计旨在在推理过程中动态调整知识边界，避免知识的重新进入。

技术框架：ST$^2$U的整体架构包括三个主要模块：首先，建模低维可逆坐标中的受限知识边界；其次，在推理过程中监测轨迹风险；最后，应用上下文锚定进行最小边界修正，并在标记间传播历史修正状态。

关键创新：ST$^2$U的主要创新在于其轨迹范围的边界控制方法，与现有的孤立点修正方法本质上不同，能够更有效地防止知识的重新进入。

关键设计：在设计中，ST$^2$U采用了低维可逆坐标来建模知识边界，并通过上下文锚定进行边界修正，确保非目标组件保持不变。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中，ST$^2$U在三个基准和三个模型系列上表现出色，结合了最佳或第二最佳的能力保留率，遗忘效果竞争力强，且受限知识重新进入率显著低于测试时基线，减少幅度为13.76%-19.84%。

🎯 应用场景

该研究的潜在应用领域包括大语言模型的安全部署、模型对齐以及在特定任务中控制知识的使用。ST$^2$U能够在不进行昂贵的重新训练的情况下，动态调整模型的知识边界，具有重要的实际价值和未来影响。

📄 摘要（原文）

Controlling restricted knowledge in large language models is essential for model alignment and safe deployment. Test-time unlearning avoids costly retraining and parameter updates by intervening only during inference. However, existing activation-editing methods apply isolated pointwise corrections, overlooking how autoregressive generation continually reconstructs hidden states from the prompt, cache, and generated prefix. Consequently, later states may return to restricted knowledge regions after a locally successful correction, causing restricted knowledge re-entry. In this work, we propose Stateful Test-Time Unlearning via restricted knowledge boundary control (ST$^2$U), which formulates test-time unlearning as trajectory-wide boundary control. ST$^2$U first models restricted knowledge boundaries in low-dimensional invertible coordinates while leaving orthogonal non-target components unchanged. During inference, ST$^2$U monitors risk along the trajectory, applies minimal boundary corrections with contextual anchoring, and propagates historical correction states across tokens to mitigate knowledge re-entry. This trajectory-wide control enables more persistent forgetting while preserving non-target capabilities and limiting inference overhead. Across three benchmarks and three model families, ST$^2$U delivers the strongest overall balance, combining best or second-best retention with competitive forgetting and substantially less restricted-knowledge re-entry than test-time baselines (13.76%-19.84% versus 46.50%-59.10%).