More Human, More Efficient: Aligning Annotations with Quantized SLMs

📄 arXiv: 2604.00586v1 📥 PDF

作者: Jiayu Wang, Junyoung Lee

分类: cs.CL

发布日期: 2026-04-01

🔗 代码/项目: GITHUB

💡 一句话要点

通过量化SLM对齐标注，实现更人性化、更高效的自动评估与标注。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 小型语言模型 量化 微调 自动标注 文本评估

📋 核心要点

  1. 现有专有LLM在自动标注中存在系统性偏差、缺乏可重复性以及数据隐私问题，难以满足高质量标注需求。
  2. 通过微调量化的SLM，使其与人类标注对齐，能够实现确定性、可控且高效的自动评估和标注。
  3. 实验表明，该方法在标注者间一致性上优于最佳专有LLM，并在情感分类任务上展现出良好的泛化能力。

📝 摘要（中文）

随着大型语言模型(LLM)能力的提升，对文本语料库高质量标注的需求呈指数级增长，已超出人工能力范围，因此LLM被广泛应用于自动评估和标注。然而，专有LLM通常表现出与人类专家共识不同的系统性偏差，缺乏可重复性，并引发数据隐私问题。本文研究了在有限的人工标注数据上微调一个17亿参数的量化小型语言模型(SLM)的可行性，使其成为高度对齐、确定性的评估器和标注器。通过实施自定义的多维评估标准框架以及简单的增强和正则化技术，所提出的方法比性能最佳的专有LLM实现了更高的标注者间一致性（Krippendorff's α 提高了0.23）。我们还在一个独立的情感分类任务上展示了所提出的训练管道的通用性。结果表明，特定于任务的对齐和高效的4位量化微调为使用专有模型进行评估和标注提供了卓越的开源替代方案。我们的微调方法已在https://github.com/jylee-k/slm-judge上公开。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLM）在自动文本评估和标注中存在的偏差、不可重复性以及隐私问题。现有专有LLM虽然能力强大，但其标注结果与人类专家共识存在差异，且模型本身不透明，难以调试和优化。此外，使用专有LLM还存在数据安全风险。

核心思路：论文的核心思路是利用小型语言模型（SLM）并通过微调使其与人类标注对齐。通过量化技术进一步压缩模型大小，提高效率。这种方法旨在创建一个可控、可解释且高效的自动标注器，作为专有LLM的开源替代方案。

技术框架：整体框架包括以下几个主要阶段：1) 数据准备：收集人工标注数据，并构建多维评估标准框架。2) 模型选择：选择一个预训练的SLM作为基础模型。3) 模型量化：对SLM进行4位量化，以减少模型大小和计算成本。4) 模型微调：使用人工标注数据对量化后的SLM进行微调，使其与人类标注对齐。5) 模型评估：使用Krippendorff's α等指标评估模型性能，并与其他模型进行比较。

关键创新：论文的关键创新在于：1) 提出了一种基于量化SLM的自动标注方法，作为专有LLM的开源替代方案。2) 采用自定义的多维评估标准框架，更精细地捕捉文本的语义信息。3) 通过简单的增强和正则化技术，提高了模型的泛化能力和鲁棒性。

关键设计：论文的关键设计包括：1) 使用4位量化技术，显著降低了模型大小和计算成本，使其能够在资源受限的环境中部署。2) 采用自定义的多维评估标准框架，允许模型从多个维度评估文本，从而更准确地捕捉文本的语义信息。3) 使用数据增强和正则化技术，防止模型过拟合，提高泛化能力。具体的损失函数和网络结构细节未在摘要中详细说明，属于未知信息。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，该方法在标注者间一致性（Krippendorff's α）上比最佳专有LLM提高了0.23。此外，该方法在情感分类任务上展现出良好的泛化能力，证明了其在不同任务上的适用性。这些结果表明，通过特定任务的对齐和高效的4位量化微调，SLM可以作为专有模型的有效替代方案。

🎯 应用场景

该研究成果可应用于各种需要自动文本评估和标注的场景，例如情感分析、文本分类、内容审核、教育评估等。通过使用开源、可控的SLM，可以避免专有LLM的偏差和隐私问题，提高标注质量和效率，并降低成本。该方法还有助于推动自然语言处理技术的普及和应用。

📄 摘要（原文）

As Large Language Model (LLM) capabilities advance, the demand for high-quality annotation of exponentially increasing text corpora has outpaced human capacity, leading to the widespread adoption of LLMs in automatic evaluation and annotation. However, proprietary LLMs often exhibit systematic biases that diverge from human expert consensus, lacks reproducibility, and raises data privacy concerns. Our work examines the viability of finetuning a quantized Small Language Model of 1.7B parameter size on limited human-annotated data to serve as a highly aligned, deterministic evaluator and annotator. By implementing a custom, multi-dimensional rubric framework and simple augmentation and regularization techniques, the proposed approach achieves higher inter-annotator agreement (0.23 points increase in Krippendorff's $α$) than the best performing state-of-the-art proprietary LLM. We also demonstrate the generalizability of the proposed training pipeline on a separate emotion classification task. The results show that task-specific alignment and efficient 4-bit quantized fine-tuning provide superior open-source alternative to using proprietary models for evaluation and annotation. Our finetuning approach is publicly available at https://github.com/jylee-k/slm-judge.