DiARC: Distinguishing Positive and Negative Samples Helps Improving ARC-like Reasoning Ability of Large Language Models

📄 arXiv: 2606.26530v2 📥 PDF

作者: Yuxuan Yang, Feiyang Li, Yile Wang

分类: cs.CL, cs.AI

发布日期: 2026-06-25 (更新: 2026-06-26)

🔗 代码/项目: GITHUB

💡 一句话要点

提出DiARC以改善大型语言模型的ARC类推理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 抽象推理 负样本 大型语言模型 数据增强 模型训练 推理能力 ARC类任务

📋 核心要点

  1. 现有方法主要依赖正样本监督，忽视了负样本的作用，导致推理能力不足。
  2. 本文提出DiARC方法，通过构建偏好对来帮助模型区分正负样本，从而提升推理能力。
  3. 实验结果显示，DiARC在多个ARC类基准上表现优异，相较于基线模型性能显著提升。

📝 摘要（中文）

抽象与推理语料库（ARC）包含需要从有限的网格样本中总结模式并预测输出网格的任务。近期，许多基于大型语言模型的方法试图将其转化为文本推理任务。然而，基于开源模型的方法通常效果不佳，而依赖闭源模型的方法成本过高。目前的努力主要集中在数据增强上，以构建更全面的ARC类数据进行监督微调。本文认为，解决ARC类问题不仅需要正样本监督，还需要通过区分负样本来提升模型推理能力。为此，我们提出DiARC方法，通过构建偏好对使模型能够区分它们。具体而言，我们提出三种构建负样本的方法，包括输出级视觉变换、DSL级规则反转和任务特定规则编辑。实验结果表明，DiARC在多个ARC类基准上持续提升性能。

🔬 方法详解

问题定义：本文旨在解决ARC类任务中模型推理能力不足的问题。现有方法多依赖正样本监督，未能有效利用负样本，导致推理效果不佳。

核心思路：论文提出DiARC方法，强调通过区分负样本来增强模型的推理能力。该方法通过构建偏好对，帮助模型理解正负样本之间的差异，从而提升推理效果。

技术框架：DiARC的整体架构包括三个主要模块：正样本收集、负样本构建和模型训练。正样本通过现有的ARC数据集获得，负样本则通过输出级视觉变换、DSL级规则反转和任务特定规则编辑生成。模型训练阶段则利用构建的正负样本进行优化。

关键创新：DiARC的核心创新在于引入负样本的概念，通过偏好对的构建，显著提升了模型的推理能力。这一方法与传统的仅依赖正样本的监督方式本质上有所区别。

关键设计：在负样本构建中，采用了多种技术细节，包括视觉变换的具体实现、规则反转的逻辑设计以及任务特定规则的编辑策略。这些设计确保了负样本的有效性和多样性，从而增强了模型的学习能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，DiARC在多个ARC类基准上均表现优异，相较于基线模型，性能提升幅度达到10%以上。这一显著提升证明了负样本在推理任务中的重要性，验证了DiARC方法的有效性。

🎯 应用场景

该研究的潜在应用领域包括教育、游戏设计和自动化推理系统等。通过提升大型语言模型的推理能力，DiARC可以帮助开发更智能的教育工具，增强游戏中的AI角色表现，以及改善自动化决策系统的准确性和效率，具有重要的实际价值和未来影响。

📄 摘要（原文）

The Abstraction and Reasoning Corpus (ARC) contains tasks that require summarizing patterns from limited grid samples and predicting output grids. Recently, many large language model based approaches have attempted to transform it into a text-based reasoning task. However, methods based on open-source models have generally yielded unsatisfactory results, while those relying on closed-source models are too costly. Current efforts mainly focus on data augmentation, constructing ARC-like data for more comprehensive supervised fine-tuning. In this work, we argue that solving ARC-like problems requires not only positive sample supervision but also the ability to improve model reasoning by distinguishing negative samples. To this end, we draw on the idea of preference alignment and propose DiARC, a method that constructs preference pairs to enable the model to distinguish between them. Specifically, we propose three ways to construct negative samples, including output-level visual transformations, DSL-level rule inversion, and task-specific rule editing. The resulting negative samples provide informative near-miss alternatives while keeping the observed demonstrations unchanged. Experimental results across multiple ARC-like benchmarks show that DiARC consistently improves performance over baseline models. The code is released at https://github.com/szu-tera/DiARC.