Geometric Consistency Based Label-Free Validation for Checkpoint Selection in Audio Active Learning

📄 arXiv: 2610.35329v1 📥 PDF

作者: Shiqi Zhang, Tuomas Virtanen

分类: cs.SD, cs.AI, cs.LG, eess.AS

发布日期: 2026-10-26

💡 一句话要点

提出几何一致性无标签验证以优化音频主动学习中的检查点选择

🎯 匹配领域: 支柱七：动作重定向 (Motion Retargeting)

关键词: 音频主动学习 无标签验证 几何一致性 检查点选择 伪标签模型

📋 核心要点

  1. 现有的音频主动学习方法依赖于假设的验证集，这会增加注释成本，降低注释预算的优势。
  2. 提出几何一致性作为无标签验证规则，通过伪标签和交叉熵评分选择检查点，减少标签依赖。
  3. 在多个数据集和查询策略下，该方法在标签预算匹配时表现最佳，且与超出预算的验证集相当。

📝 摘要（中文）

音频主动学习（AL）通过在每轮中仅标记一部分信息丰富的未标记数据来以低注释成本训练分类器。现有的AL协议依赖于假设的验证集，但实际上其标签也会增加注释成本，从而缩小原本就有限的注释预算。本文提出了一种几何一致性无标签验证规则用于检查点选择。该方法在冻结的预训练嵌入空间中构建最近类均值和k近邻分类器，利用伪标签对未标记数据进行几何建模。该规则通过与伪标签的一致性和在标记集上的交叉熵来评分每个检查点。实验表明，在匹配的标签预算下，该方法在无额外标签的方法中获得了最佳的标签曲线下的面积（AULC）均值，并与超出预算的验证集表现相当。至今为止，这是音频AL中无标签验证检查点选择的首次系统研究。

🔬 方法详解

问题定义：本文旨在解决音频主动学习中检查点选择的验证依赖于标签的问题。现有方法假设存在验证集，但这会增加注释成本，影响学习效率。

核心思路：提出几何一致性作为无标签验证规则，通过构建伪标签模型来评估检查点的有效性，从而避免对真实标签的依赖。该设计旨在降低注释成本，同时保持模型性能。

技术框架：整体流程包括在冻结的预训练嵌入空间中构建分类器，利用这些分类器对未标记数据进行预测以获取伪标签，然后根据伪标签与真实标签的一致性和交叉熵评分选择检查点。

关键创新：该方法的主要创新在于引入了无标签验证机制，首次系统性地研究了音频主动学习中的检查点选择，显著减少了对标签的依赖。

关键设计：该方法仅需一个超参数，且在实践中对其不敏感。每轮仅需对未标记数据进行一次批量前向传播，极大地提高了计算效率。

📊 实验亮点

实验结果显示，在多个数据集上，该方法在无额外标签的情况下，获得了最佳的标签曲线下的面积（AULC）均值，表现优于传统方法，并与超出预算的验证集的表现相当，展示了其有效性和实用性。

🎯 应用场景

该研究的潜在应用领域包括音频分类、语音识别和自然语言处理等领域，能够有效降低标注成本，提高模型训练效率。未来，该方法可能推动更多无标签学习技术的发展，促进在数据稀缺环境下的学习能力提升。

📄 摘要（原文）

Audio active learning (AL) trains a classifier at low annotation cost by labeling only an informative fraction of an unlabeled collection over successive rounds. Each round picks one of the checkpoints saved during training. Mainstream AL protocols do so with an assumed validation set, but in practice its labels also count toward the annotation cost, shrinking the advantage of an already small annotation budget. We propose geometric consistency, a label-free validation rule for checkpoint selection. Both classifiers, nearest-class-mean and k-nearest-neighbor, are built from the labeled set in a frozen pretrained embedding space. They then predict the unlabeled data to model its geometry. The rule scores each checkpoint by its agreement with these pseudo-labels and its cross-entropy on the labeled set. It works with any query strategy, has one hyperparameter, insensitive in practice, and adds only one batched forward pass over the unlabeled data per round. At matched label budgets across datasets, encoders, and query strategies, it attains the best mean rank in area under the labeling curve (AULC) among methods without extra labels and is on par with an out-of-budget validation set. To our knowledge, this is the first systematic study of label-free validation for checkpoint selection in audio AL.