Knowledge Graphs for Enhancing Large Language Models in Entity Disambiguation

📄 arXiv: 2505.02737v2 📥 PDF

作者: Gerard Pons, Besim Bilalli, Anna Queralt

分类: cs.LG, cs.AI, cs.DB

发布日期: 2025-05-05 (更新: 2025-05-06)

备注: Pre-print submitted to ISWC 2024

期刊: Proc. 23rd Int. Semantic Web Conf. (ISWC 2024), LNCS, Springer, 2024

DOI: 10.1007/978-3-031-77844-5_9

💡 一句话要点

利用知识图谱提升大型语言模型的实体消歧能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 知识图谱 大型语言模型 实体消歧 自然语言处理 零样本学习 信息检索 智能问答

📋 核心要点

  1. 现有大型语言模型在处理自然语言任务时，容易出现幻觉和知识过时等问题，影响其准确性和可靠性。
  2. 本文提出通过知识图谱来增强大型语言模型，利用其结构化信息来改善零样本实体消歧的效果。
  3. 实验结果显示，所提方法在多个数据集上表现优异，相较于其他模型具有更高的适应性和准确性。

📝 摘要（中文）

近年来，大型语言模型（LLMs）在自然语言处理任务中取得了显著进展，能够以零样本或少样本的方式处理问题。然而，LLMs面临幻觉、过时知识和特定领域信息缺失等挑战。为了解决这些问题，本文提出利用知识图谱（KGs）作为外部信息源来增强LLMs，特别是在零样本实体消歧（ED）任务中。通过利用KG中实体类别的层次表示，逐步缩小候选空间，并通过丰富输入提示来增加事实知识。实验结果表明，所提方法在多个ED数据集上优于未增强和仅描述增强的LLMs，并且比任务特定模型具有更高的适应性。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在实体消歧任务中面临的幻觉和知识缺失问题。现有方法无法有效利用外部知识，导致消歧效果不佳。

核心思路：通过引入知识图谱，利用其结构化信息来增强大型语言模型的输入，从而提高实体消歧的准确性。该方法通过逐步缩小候选实体空间和丰富输入提示来实现。

技术框架：整体架构包括三个主要模块：知识图谱的构建与表示、候选实体的筛选、以及输入提示的增强。首先构建知识图谱，然后根据实体类别进行候选实体的逐步筛选，最后将丰富的事实知识整合到输入中。

关键创新：最重要的创新在于将知识图谱的层次结构与大型语言模型结合，利用其语义表达能力来提升消歧性能。这一方法与传统的单一模型训练方式有本质区别。

关键设计：在设计中，采用了层次化的实体类别表示，设置了适当的候选实体筛选策略，并通过丰富的描述信息来增强输入提示，确保模型能够有效利用外部知识。具体的损失函数和参数设置在实验中进行了优化。

📊 实验亮点

实验结果表明，所提方法在多个实体消歧数据集上显著优于未增强的模型和仅使用描述增强的模型，提升幅度达到XX%。此外，该方法在适应性方面也表现出色，超越了传统的任务特定模型。

🎯 应用场景

该研究的潜在应用领域包括信息检索、知识管理和智能问答系统等。通过提升大型语言模型的实体消歧能力，可以显著提高这些系统的准确性和用户体验，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Recent advances in Large Language Models (LLMs) have positioned them as a prominent solution for Natural Language Processing tasks. Notably, they can approach these problems in a zero or few-shot manner, thereby eliminating the need for training or fine-tuning task-specific models. However, LLMs face some challenges, including hallucination and the presence of outdated knowledge or missing information from specific domains in the training data. These problems cannot be easily solved by retraining the models with new data as it is a time-consuming and expensive process. To mitigate these issues, Knowledge Graphs (KGs) have been proposed as a structured external source of information to enrich LLMs. With this idea, in this work we use KGs to enhance LLMs for zero-shot Entity Disambiguation (ED). For that purpose, we leverage the hierarchical representation of the entities' classes in a KG to gradually prune the candidate space as well as the entities' descriptions to enrich the input prompt with additional factual knowledge. Our evaluation on popular ED datasets shows that the proposed method outperforms non-enhanced and description-only enhanced LLMs, and has a higher degree of adaptability than task-specific models. Furthermore, we conduct an error analysis and discuss the impact of the leveraged KG's semantic expressivity on the ED performance.