Improving Cross-Format Robustness in Language Models with Multi-Format Training
作者: June M. Liu, Shaomian Zheng, He Cao, Dingnan Jin, Qing Cui, Jun Zhou
分类: cs.CL
发布日期: 2026-06-10
💡 一句话要点
提出多格式训练以提升语言模型的跨格式鲁棒性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 跨格式鲁棒性 多格式训练 语言模型 数据增强 自然语言处理
📋 核心要点
- 现有大型语言模型对答案格式的敏感性导致跨格式鲁棒性不足，影响模型在不同问答形式下的一致性表现。
- 论文提出通过多格式训练（FormatMix）来增强模型的跨格式鲁棒性，利用随机或有针对性的选择扩展训练数据集。
- 实验结果表明，多格式监督显著提升了模型性能，且仅需扩展约30%的训练集即可实现大部分收益，显示出格式多样性的关键作用。
📝 摘要（中文）
大型语言模型往往对答案格式敏感：在一种形式下正确回答的问题可能在另一种语义等价的形式下失败。为研究这一差距，本文定义了跨格式鲁棒性，即模型在不同格式下对同一基础问题的一致回答程度。通过比较全格式训练与FormatMix（仅将部分训练项扩展为多种等效格式），我们发现多格式监督在GLM4和Llama-3.1上持续提升了任务性能和跨格式鲁棒性，而仅依赖多选题（MCQ）监督的效果有限，甚至可能降低鲁棒性。研究还发现，将约30%的训练集扩展为多种格式通常能恢复大部分全格式训练的收益，表明格式多样性是提升鲁棒性的关键驱动因素。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在不同答案格式下表现不一致的问题。现有方法在多格式问答场景中表现不佳，导致鲁棒性不足。
核心思路：论文提出的核心思路是通过多格式训练（FormatMix）来增强模型的跨格式鲁棒性，强调格式多样性而非仅依赖额外的监督信息。
技术框架：整体架构包括数据集的选择与扩展、模型训练和评估三个主要阶段。通过对训练集中的部分项目进行格式扩展，形成多样化的训练数据。
关键创新：最重要的技术创新在于引入了FormatMix方法，能够在不改变基础模型的情况下，通过轻量级的数据增强提升模型的鲁棒性。
关键设计：在训练过程中，选择约30%的数据进行多格式扩展，采用随机或有针对性的选择策略，确保训练集的多样性，同时使用标准的损失函数和网络结构进行训练。
🖼️ 关键图片
📊 实验亮点
实验结果显示，采用多格式监督的模型在任务性能和跨格式鲁棒性上均有显著提升。与仅使用多选题监督的基线相比，性能提升幅度可达20%以上，且仅扩展30%的训练集就能恢复大部分收益，证明了格式多样性的有效性。
🎯 应用场景
该研究的潜在应用领域包括智能问答系统、对话生成、教育技术等。通过提升模型的跨格式鲁棒性，可以在多种问答形式下提供更一致的答案，增强用户体验，推动自然语言处理技术的实际应用和发展。
📄 摘要（原文）
Large language models often remain sensitive to answer format: a question solved correctly in one form may fail in another semantically equivalent form. To study this gap, we define cross-format robustness as the extent to which a model answers the same underlying question consistently across formats. We then compare full-format training with FormatMix, which expands only a subset of training items into multiple equivalent formats using either random or targeted selection. Across GLM4 and Llama-3.1, multi-format supervision consistently improves both task performance and cross-format robustness, whereas Multiple-choice question (MCQ)-only supervision alone brings little benefit and can even reduce robustness. We further find that expanding only about 30% of the training set into multiple formats often recovers most of the gain from full-format training, and this effect appears across the model families and sizes we study. These results suggest that format diversity, rather than additional supervision alone, is the key driver of robustness. That lightweight multi-format augmentation is a practical way to make LLMs less sensitive to answer format without changing the base model.