DIRECT: Direct Decoding for Efficient and Aligned Sequence Labeling with Large Language Models

📄 arXiv: 2607.26891v1 📥 PDF

作者: Yilei Wang, Jiaxin Gan, Kexuan Zhang, Ling Li, Wentao Zhang, Peichao Lai

分类: cs.CL

发布日期: 2026-07-29

💡 一句话要点

提出DIRECT框架以提升序列标注的效率与对齐性

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 序列标注 大型语言模型 直接偏好优化 受控解码 信息提取 推理效率 模板填充 任务对齐

📋 核心要点

  1. 现有基于大型语言模型的序列标注方法在领域对齐和推理效率上存在明显不足，影响了任务的实际应用效果。
  2. 本文提出DIRECT框架，通过直接偏好优化和受控解码过程，增强任务与人类偏好的对齐性，并提高推理效率。
  3. 在八个数据集上的实验结果显示，DIRECT在性能和效率上均显著优于现有方法，展示了其有效性。

📝 摘要（中文）

序列标注是一项细粒度的信息提取任务，但现有基于大型语言模型的方法在领域对齐和推理效率方面存在不足。为了解决这些问题，本文提出了DIRECT框架，通过训练时优化和推理时修正来增强任务与人类偏好的对齐。具体而言，DIRECT在监督微调后进行直接偏好优化（DPO），并引入受控解码过程，强制固定输出格式并限制预测到候选集。为了进一步提高效率，模板填充机制要求模型仅生成标签令牌，同时通过KV缓存重用前缀内容，从而减少冗余计算。实验结果表明，DIRECT在八个数据集上相较于现有方法显著提升了性能和效率。

🔬 方法详解

问题定义：本文旨在解决现有序列标注方法在领域对齐不足和推理效率低下的问题。现有方法往往无法有效满足特定任务的需求，导致性能下降。

核心思路：DIRECT框架通过训练时的直接偏好优化（DPO）和推理时的受控解码，强化了模型与人类偏好的对齐，并通过模板填充机制提高了推理效率。

技术框架：DIRECT的整体架构包括两个主要阶段：首先是监督微调后进行的DPO，以增强任务对齐；其次是受控解码过程，确保输出格式固定并限制预测范围。

关键创新：DIRECT的核心创新在于结合了DPO和受控解码，显著提升了模型的对齐性和推理效率。这一设计与传统方法的自由解码方式形成鲜明对比。

关键设计：在模型设计中，采用了模板填充机制，使得模型仅需生成标签令牌，同时通过KV缓存重用前缀内容，减少了冗余计算，提高了整体效率。实验中使用的损失函数和参数设置也经过精心调整，以优化模型性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在八个数据集上的实验结果表明，DIRECT框架在性能上相比于现有方法提升了XX%，在推理效率上提高了YY%，展示了其在序列标注任务中的显著优势。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的信息提取、文本分类和命名实体识别等任务。通过提升序列标注的效率与对齐性，DIRECT框架可以在实际应用中显著提高模型的响应速度和准确性，具有广泛的实际价值和影响力。

📄 摘要（原文）

Sequence labeling is a fine-grained information extraction task, yet existing large language model-based approaches suffer from insufficient domain alignment and low inference efficiency. To address these issues, we propose DIRECT, a framework that addresses these issues through training-time optimization and inference-time rectification. Specifically, DIRECT performs Direct Preference Optimization (DPO) after supervised fine-tuning to strengthen task alignment with human preferences, and introduces a controlled decoding process that enforces fixed output formats and restricts predictions to candidate sets. To further improve efficiency, a template-filling mechanism requires the model to generate only label tokens while reusing prefixed content through the KV Cache, thus reducing redundant computation. Experimental results on eight datasets demonstrate that DIRECT achieves significant improvements in both performance and efficiency compared to existing methods.