EdgeLM: Edge Demonstrations for Language Models' Table Understanding

📄 arXiv: 2608.04390v1 📥 PDF

作者: Soroush Omidvartehrani, Mohammadamin Habibollah, Mohammadreza Daviran, Davood Rafiei

分类: cs.CL, cs.DB

发布日期: 2026-08-05

🔗 代码/项目: GITHUB

💡 一句话要点

提出EdgeLM以解决语言模型表格理解中的演示选择问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 语言模型 表格理解 演示选择 边缘证据 数据处理 机器学习 信息检索

📋 核心要点

  1. 现有方法在演示选择上过于依赖相似性，导致模型在复杂决策时缺乏必要的区分能力。
  2. EdgeLM提出了一种新颖的检索框架，通过选择与查询相关且信息丰富的边缘证据来提升模型性能。
  3. 在多个数据处理任务中，EdgeLM在不同设置下均表现出最佳或接近最佳的性能，验证了其有效性。

📝 摘要（中文）

大型语言模型（LLMs）通过上下文学习进行以表格为中心的预测，因此演示选择对性能至关重要。现有的检索方法优先考虑与查询的相似性，但相似的演示往往会强化模型的预测，而不是揭示困难决策所需的区别。我们提出了EdgeLM，一个检索框架，选择边缘证据，即与查询相关且对决策边界信息丰富的演示。EdgeLM通过选择数据边缘（具有不同真实标签的邻近示例）和模型边缘（先前被模型错误分类的相似示例）来检索两种互补的边缘证据。EdgeLM无需模型重训练或任务特定工程。在五个数据处理任务、十五个数据集和五个开放权重及专有LLM上，EdgeLM在每种设置中始终实现最佳或接近最佳的性能，而消融实验表明这两种边缘证据提供了互补的好处。我们的代码和数据集已公开可用。

🔬 方法详解

问题定义：本论文旨在解决大型语言模型在表格理解中演示选择的不足，现有方法过于依赖相似性，导致模型在复杂决策时缺乏必要的区分能力。

核心思路：EdgeLM的核心思路是选择边缘证据，这些证据不仅与查询相关，还能提供关于决策边界的信息，从而帮助模型做出更准确的预测。

技术框架：EdgeLM的整体架构包括两个主要模块：数据边缘和模型边缘。数据边缘选择具有不同真实标签的邻近示例，而模型边缘则选择先前被模型错误分类的相似示例。

关键创新：EdgeLM的最重要创新在于其边缘证据的选择机制，与现有方法不同，它关注的是信息丰富的示例，而不仅仅是相似性，从而提高了模型的决策能力。

关键设计：在设计上，EdgeLM不需要对模型进行重训练或任务特定的工程，简化了应用过程，同时通过消融实验验证了两种边缘证据的互补性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在五个数据处理任务中，EdgeLM在所有设置下均实现了最佳或接近最佳的性能，显示出其在处理复杂决策时的优势。消融实验表明，数据边缘和模型边缘的组合提供了互补的性能提升，进一步验证了该方法的有效性。

🎯 应用场景

EdgeLM的研究成果在多个领域具有潜在应用价值，尤其是在需要处理复杂表格数据的任务中，如数据分析、商业智能和自动化报告生成等。通过提升语言模型的表格理解能力，EdgeLM能够帮助用户更高效地提取和分析信息，推动相关领域的智能化进程。

📄 摘要（原文）

Large language models (LLMs) perform table-centric prediction through in-context learning, making demonstration selection critical to performance. Existing retrieval methods prioritize similarity to the query, but similar demonstrations often reinforce the model's likely prediction rather than reveal the distinctions needed for difficult decisions. We propose EdgeLM, a retrieval framework that instead selects edge evidence, demonstrations that are both relevant to the query and informative about the decision boundary. EdgeLM retrieves two complementary forms of edge evidence by selecting data edges, nearby examples with different ground-truth labels, and model edges, similar examples previously misclassified by the deployed model. EdgeLM requires neither model retraining nor task-specific engineering. Across five data wrangling tasks, fifteen datasets, and five open-weight and proprietary LLMs, EdgeLM consistently achieves the best or near-best performance in every setting, while ablations show that the two forms of edge evidence provide complementary benefits. Our code and datasets are publicly available at https://github.com/soroushomidvar/EdgeLM.