pro-team at LLMs4OL 2026 Tasks Flagship and Reuse: Retrieval-Augmented Generation and Vocabulary-Constrained Filtering for Ontology Learning
作者: Shivam Mishra, Dhannu Ram Meena, Muneendra Ojha, Krishna Pratap Singh, Kuldeep Singh
分类: cs.AI
发布日期: 2026-08-27
💡 一句话要点
提出基于检索增强生成的本体学习方法以解决现有挑战
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 本体学习 大型语言模型 检索增强生成 词汇约束 知识图谱 信息检索 语义搜索
📋 核心要点
- 尽管大型语言模型在本体学习中取得进展,但仍存在术语幻觉和格式不一致等问题。
- 提出了一种离线检索增强的少样本提示管道,结合Qwen2.5-14B-Instruct和all-MiniLM-L6-v2进行示例检索。
- 在任务B上实现了0.8692的语义图相似度和0.9200的术语标注F1,展示了方法的有效性。
📝 摘要(中文)
尽管大型语言模型(LLMs)在文本本体学习方面取得了显著进展,但仍面临诸多挑战,如领域术语的幻觉、格式不一致以及对层级关系的偏好。在LLMs4OL 2026挑战中,我们针对端到端旗舰任务(任务A)和本体扩展重用任务(任务B)提出了一种离线检索增强的少样本提示管道。我们的系统使用Qwen2.5-14B-Instruct和all-MiniLM-L6-v2进行演示检索,为任务A选择前5个示例,为任务B选择前2个示例。通过左截断的上下文窗口策略,在长提示中保留任务指令。对于任务B,生成的三元组经过确定性词汇约束过滤,保留至少一个端点属于样本的闭合术语/类型词汇的三元组,并去除初始本体的重复项。该方法在任务B上实现了0.8692的语义图相似度、0.9200的术语标注F1和0.8540的分类发现F1,而任务A的语义图相似度为0.7416。然而,未提取到非分类关系,突显了闭合、以分类为导向的关系词汇的局限性。
🔬 方法详解
问题定义:本研究旨在解决从文本中学习本体的挑战,现有方法常常产生领域术语的幻觉、格式不一致,并偏向于层级关系,导致非分类关系的提取不足。
核心思路:本研究提出了一种离线检索增强的少样本提示管道,通过结合检索和生成的方式,优化了本体学习过程,确保生成的内容更符合任务要求。
技术框架:整体架构包括两个主要任务:任务A和任务B。任务A侧重于端到端的本体学习,任务B则关注本体扩展重用。系统使用Qwen2.5-14B-Instruct进行生成,并利用all-MiniLM-L6-v2进行示例检索。
关键创新:本研究的创新在于引入了左截断的上下文窗口策略和确定性词汇约束过滤,确保生成的三元组符合特定的词汇要求,并有效去除冗余信息。
关键设计:在任务B中,生成的三元组仅保留至少一个端点属于闭合术语/类型词汇的三元组,并去除初始本体的重复项,确保结果的准确性和相关性。实验结果显示,该方法在多个指标上优于传统方法。
🖼️ 关键图片
📊 实验亮点
在任务B中,该方法实现了0.8692的语义图相似度、0.9200的术语标注F1和0.8540的分类发现F1,表现出色。相比于传统方法,任务A的语义图相似度达到0.7416,显示出显著的性能提升,但仍未提取到非分类关系,反映出方法的局限性。
🎯 应用场景
该研究的潜在应用领域包括知识图谱构建、信息检索和语义搜索等。通过优化本体学习过程,能够提高领域特定知识的提取效率,进而推动智能系统在各行业的应用与发展,具有重要的实际价值和未来影响。
📄 摘要(原文)
Ontology learning from text remains challenging despite significant progress in Large Language Models (LLMs), which can hallucinate domain terms, produce inconsistent formats, and favor hierarchical over associative relations. In the LLMs4OL 2026 Challenge, we address both the End-to-End Flagship Task (Task A) and Ontology Extension Reuse Task (Task B) using an offline retrieval-augmented few-shot prompting pipeline. Our system employs Qwen2.5-14B-Instruct with all-MiniLM-L6-v2 for demonstration retrieval, selecting the top-5 examples for Task A and top-2 for Task B. A left-truncated context-windowing strategy preserves task instructions within long prompts. For Task B, generated triples undergo deterministic vocabulary-constrained filtering, retaining triples when at least one endpoint belongs to the sample's closed term/type vocabulary and removing duplicates of the initial ontology. The approach achieves Semantic Graph Similarity of 0.8692, Term-Typing F1 of 0.9200, and Taxonomy Discovery F1 of 0.8540 on Task B, while Task A achieves 0.7416 Semantic Graph Similarity. However, no non-taxonomic relations are extracted, highlighting limitations of closed, taxonomy-oriented relation vocabularies.