FineREX: Fine-Tuned NER-RE for Human Smuggling Knowledge Graphs

📄 arXiv: 2606.19710v1 📥 PDF

作者: Elijah Feldman, Dipak Meher, Carlotta Domeniconi

分类: cs.CL, cs.AI

发布日期: 2026-06-18

备注: Code available at https://github.com/ElijahFeldman7/FineREX


💡 一句话要点

提出FineREX以解决人类走私知识图谱构建问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 知识图谱 命名实体识别 关系提取 大型语言模型 人类走私 法律文本分析 信息提取

📋 核心要点

  1. 现有方法依赖于通用模型,无法满足人类走私领域特定的实体和关系定义,导致信息提取效果不佳。
  2. FineREX通过微调大型语言模型,专注于命名实体识别和关系提取,构建针对人类走私的知识图谱。
  3. FineREX在实验中实现了实体和关系F1-score的显著提升,且处理时间减少了50%,有效提高了知识图谱的质量与效率。

📝 摘要(中文)

法庭程序中包含关于人类走私网络的宝贵证据,但这些信息常常隐藏在结构松散、术语繁杂的法律文件中。尽管大型语言模型(LLMs)可以通过自动信息提取支持知识图谱的构建,但现有方法依赖于未针对该领域实体和关系定义进行优化的通用模型。本文提出FineREX,一个围绕经过微调的LLM构建的命名实体识别和关系提取(NER-RE)知识图谱构建管道。FineREX在512个文本片段的手动标注数据集上,实体和关系F1-score分别比通用基线提高了15.50%和31.46%。这些提升转化为更高质量的知识图谱,减少法律噪声近一半,并将长文档中的节点重复率从17.78%降低至11.17%。通过消除文档重写和冗余提取阶段,FineREX还将端到端处理时间减少了50%。

🔬 方法详解

问题定义:本文旨在解决人类走私知识图谱构建中的信息提取效率低和质量差的问题。现有方法使用的通用模型未能针对该领域的特定需求进行优化,导致提取效果不理想。

核心思路:FineREX的核心思路是通过对大型语言模型进行领域特定的微调,提升命名实体识别和关系提取的准确性,从而构建高质量的知识图谱。这样的设计能够更好地适应法律文本中的复杂术语和结构。

技术框架:FineREX的整体架构包括数据预处理、模型微调、实体识别、关系提取和知识图谱构建几个主要模块。首先,利用手动标注的数据集进行模型的微调,然后通过优化的NER-RE流程提取所需信息,最后构建知识图谱。

关键创新:FineREX的主要创新在于其针对特定领域的微调策略,使得模型在处理法律文本时表现出色,显著优于通用模型。通过这种方法,FineREX能够有效减少法律噪声和节点重复。

关键设计:在FineREX中,使用了特定的损失函数来优化实体和关系的识别,同时在网络结构上进行了调整,以适应法律文本的特征。微调过程中,选择了适合的超参数,以确保模型在特定任务上的最佳表现。

🖼️ 关键图片

fig_0

📊 实验亮点

FineREX在实验中实现了实体F1-score和关系F1-score分别提高15.50%和31.46%的显著提升,相较于通用基线,知识图谱的质量得到显著改善。此外,处理时间减少了50%,有效提升了整体效率。

🎯 应用场景

FineREX的研究成果可广泛应用于法律文本分析、犯罪网络监测和情报收集等领域。通过提高人类走私相关信息的提取效率和准确性,FineREX能够为执法机构和研究人员提供更为可靠的知识图谱,助力打击非法活动。未来,该技术还可能扩展到其他领域的知识图谱构建中,具有重要的实际价值和影响力。

📄 摘要(原文)

Court proceedings contain valuable evidence about human smuggling networks, but this information is often buried within unstructured, jargon-heavy legal documents. While large language models (LLMs) can support knowledge graph construction through automated information extraction, existing approaches rely on general-purpose models that are not tailored to the entity and relationship definitions required in this domain. We introduce FineREX, a streamlined knowledge graph construction pipeline built around a fine-tuned LLM for named entity recognition and relationship extraction (NER-RE). Using a manually annotated dataset of $512$ text chunks, FineREX achieves absolute improvements of 15.50% and 31.46% in entity and relationship F1-score, respectively, compared to a larger general-purpose baseline. These gains translate into higher-quality knowledge graphs, reducing legal noise by nearly half and lowering node duplication on long documents from 17.78% to 11.17%. By eliminating document rewriting and redundant extraction stages, FineREX also reduces end-to-end processing time by 50.0%. Our results demonstrate that domain-specific fine-tuning can substantially outperform larger general-purpose models while improving both the quality and efficiency of knowledge graph construction for illicit network analysis.