SMUTF: Schema Matching Using Generative Tags and Hybrid Features

📄 arXiv: 2402.01685v3 📥 PDF

作者: Yu Zhang, Mei Di, Haozheng Luo, Chenwei Xu, Richard Tzong-Han Tsai

分类: cs.CL, cs.AI, cs.DB

发布日期: 2024-01-22 (更新: 2025-05-03)

备注: Information Systems

🔗 代码/项目: GITHUB

💡 一句话要点

提出SMUTF以解决大规模表格数据模式匹配问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 模式匹配 生成标签 混合特征 预训练模型 跨领域匹配

📋 核心要点

  1. 现有的模式匹配方法在开放领域任务中表现不佳，缺乏有效的跨领域匹配能力。
  2. SMUTF结合了生成标签和混合特征，通过引入预训练语言模型和生成模型，提升了模式匹配的效果。
  3. 在多个公共数据集和HDXSM数据集上，SMUTF的F1分数提高了11.84%，AUC提升了5.08%，超越了现有模型。

📝 摘要（中文）

我们介绍了SMUTF（使用生成标签和混合特征的模式匹配），这是一种独特的大规模表格数据模式匹配方法。该方法假设监督学习在开放领域任务中不会影响性能，从而实现有效的跨领域匹配。SMUTF独特地结合了基于规则的特征工程、预训练语言模型和生成大型语言模型。我们借鉴人道主义交换语言，部署了针对每个数据列的“生成标签”，增强了模式匹配的有效性。SMUTF展现出广泛的通用性，能够与任何现有的预训练嵌入、分类方法和生成模型无缝协作。为了解决缺乏公开可用的模式匹配数据集的问题，我们创建并开源了HDXSM数据集，认为这是目前最全面的模式匹配数据集。在多个公共数据集和新颖的HDXSM数据集的评估中，SMUTF表现出色，超越了现有的最先进模型，准确性和效率均有所提升，F1分数提高了11.84%，ROC曲线下的AUC提高了5.08%。代码可在https://github.com/fireindark707/Python-Schema-Matching获取。

🔬 方法详解

问题定义：论文旨在解决大规模表格数据的模式匹配问题，现有方法在开放领域任务中常常无法有效工作，缺乏跨领域的适应性。

核心思路：SMUTF通过引入“生成标签”这一概念，结合规则基础的特征工程与预训练语言模型，提升了模式匹配的准确性和效率。

技术框架：SMUTF的整体架构包括数据预处理、特征提取、生成标签的应用以及最终的模式匹配模块，能够与多种预训练模型和分类方法兼容。

关键创新：最重要的创新在于“生成标签”的引入，这一设计灵感来源于人道主义交换语言，显著提升了模式匹配的效果，与传统方法相比具有本质区别。

关键设计：在参数设置上，SMUTF允许灵活使用现有的预训练嵌入，损失函数设计上注重提高F1分数和AUC，网络结构则结合了生成模型的优势。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

SMUTF在多个公共数据集和新创建的HDXSM数据集上表现出色，F1分数提高了11.84%，ROC曲线下的AUC提升了5.08%，超越了现有的最先进模型，展示了其在准确性和效率上的显著优势。

🎯 应用场景

该研究在数据集成、信息检索和数据分析等领域具有广泛的应用潜力。通过提高模式匹配的准确性，SMUTF可以帮助企业和组织更有效地整合和利用跨领域的数据，推动数据驱动决策的进程。未来，随着数据量的不断增加，该方法的影响力将愈加显著。

📄 摘要（原文）

We introduce SMUTF (Schema Matching Using Generative Tags and Hybrid Features), a unique approach for large-scale tabular data schema matching (SM), which assumes that supervised learning does not affect performance in open-domain tasks, thereby enabling effective cross-domain matching. This system uniquely combines rule-based feature engineering, pre-trained language models, and generative large language models. In an innovative adaptation inspired by the Humanitarian Exchange Language, we deploy "generative tags" for each data column, enhancing the effectiveness of SM. SMUTF exhibits extensive versatility, working seamlessly with any pre-existing pre-trained embeddings, classification methods, and generative models. Recognizing the lack of extensive, publicly available datasets for SM, we have created and open-sourced the HDXSM dataset from the public humanitarian data. We believe this to be the most exhaustive SM dataset currently available. In evaluations across various public datasets and the novel HDXSM dataset, SMUTF demonstrated exceptional performance, surpassing existing state-of-the-art models in terms of accuracy and efficiency, and improving the F1 score by 11.84% and the AUC of ROC by 5.08%. Code is available at https://github.com/fireindark707/Python-Schema-Matching.