UrbanKGent: A Unified Large Language Model Agent Framework for Urban Knowledge Graph Construction

📄 arXiv: 2402.06861v2 📥 PDF

作者: Yansong Ning, Hao Liu

分类: cs.AI

发布日期: 2024-02-10 (更新: 2024-10-06)

备注: NeurIPS 2024

🔗 代码/项目: GITHUB

💡 一句话要点

提出UrbanKGent框架以解决城市知识图谱构建中的人工依赖问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 城市知识图谱 大型语言模型 自动化构建 指令生成 轨迹优化 数据挖掘

📋 核心要点

  1. 现有的城市知识图谱构建方法过于依赖人工，导致效率低下，限制了其应用潜力。
  2. 本文提出UrbanKGent框架，通过生成异构和地理空间感知的指令集，自动化城市知识图谱构建过程。
  3. 实验结果显示，UrbanKGent在多个真实数据集上超越31个基线，性能提升超过10%，且成本显著降低。

📝 摘要（中文）

城市知识图谱作为从多源城市数据中提取关键知识的基础构件，近年来受到广泛关注。然而，城市知识图谱构建（UrbanKGC）仍然严重依赖人工努力，限制了其潜在的发展。本文提出了UrbanKGent，一个统一的大型语言模型代理框架，用于城市知识图谱构建。我们首先通过异构感知和地理空间注入的指令生成，构建了UrbanKGC任务的知识指令集。此外，我们提出了一种工具增强的迭代轨迹优化模块，以增强和优化从GPT-4提取的轨迹。通过对Llama 2和Llama 3系列进行混合指令微调，我们获得了UrbanKGC代理家族，包含UrbanKGent-7/8/13B版本。实验结果表明，UrbanKGent家族在UrbanKGC任务中显著超越了31个基线，并且在成本上约为GPT-4的20分之一。

🔬 方法详解

问题定义：城市知识图谱构建（UrbanKGC）面临的主要问题是过度依赖人工努力，导致效率低下和数据利用不充分。现有方法在处理多源数据时缺乏自动化和智能化的支持。

核心思路：本文提出的UrbanKGent框架通过构建知识指令集和工具增强的迭代轨迹优化模块，旨在自动化城市知识图谱的构建过程，从而减少人工干预，提高构建效率。

技术框架：UrbanKGent框架主要包括两个模块：首先是知识指令集的生成模块，利用异构感知和地理空间信息生成针对UrbanKGC任务的指令；其次是工具增强的迭代轨迹优化模块，负责从GPT-4提取的轨迹进行优化和增强。

关键创新：UrbanKGent的核心创新在于其异构感知和地理空间注入的指令生成方法，以及工具增强的迭代轨迹优化模块，这些设计使得框架在构建城市知识图谱时能够显著提高效率和准确性。

关键设计：在模型训练中，采用了混合指令微调策略，结合了Llama 2和Llama 3系列的增强轨迹，确保了模型在UrbanKGC任务中的表现优越。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，UrbanKGent家族在UrbanKGC任务中超越31个基线，性能提升超过10%。同时，其成本约为GPT-4的20分之一，展示了显著的经济效益和效率提升。

🎯 应用场景

UrbanKGent框架具有广泛的应用潜力，能够在城市规划、智能交通、环境监测等领域中自动构建城市知识图谱，帮助决策者更好地理解和管理城市资源。此外，该框架的高效性和低成本特性使其在实际应用中更具吸引力，能够推动城市智能化发展。

📄 摘要（原文）

Urban knowledge graph has recently worked as an emerging building block to distill critical knowledge from multi-sourced urban data for diverse urban application scenarios. Despite its promising benefits, urban knowledge graph construction (UrbanKGC) still heavily relies on manual effort, hindering its potential advancement. This paper presents UrbanKGent, a unified large language model agent framework, for urban knowledge graph construction. Specifically, we first construct the knowledgeable instruction set for UrbanKGC tasks (such as relational triplet extraction and knowledge graph completion) via heterogeneity-aware and geospatial-infused instruction generation. Moreover, we propose a tool-augmented iterative trajectory refinement module to enhance and refine the trajectories distilled from GPT-4. Through hybrid instruction fine-tuning with augmented trajectories on Llama 2 and Llama 3 family, we obtain UrbanKGC agent family, consisting of UrbanKGent-7/8/13B version. We perform a comprehensive evaluation on two real-world datasets using both human and GPT-4 self-evaluation. The experimental results demonstrate that UrbanKGent family can not only significantly outperform 31 baselines in UrbanKGC tasks, but also surpass the state-of-the-art LLM, GPT-4, by more than 10% with approximately 20 times lower cost. Compared with the existing benchmark, the UrbanKGent family could help construct an UrbanKG with hundreds of times richer relationships using only one-fifth of the data. Our data and code are available at https://github.com/usail-hkust/UrbanKGent.