Automated Keyword Generation Using LLMs in a High-Volume Data Virtualization Service
作者: Saiful Khan, Yiwen Xing, Joyraj Chakraborty, Afrah Farea, Philip Beaucamp, Samuel Jackson, Min Chen
分类: cs.AI
发布日期: 2026-10-30
💡 一句话要点
提出基于大语言模型的自动关键词生成方法以优化数据虚拟化服务
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 数据虚拟化 关键词生成 大语言模型 机器学习 信息检索
📋 核心要点
- 现有的数据虚拟化服务在用户发现和利用虚拟数据集时面临重复劳动的问题,缺乏有效的关键词生成机制。
- 本文提出利用大语言模型自动生成虚拟数据集关键词,设计了五种文本数据选择策略以提高关键词生成的质量。
- 实验结果显示,关键词生成的效果与文本描述质量密切相关,支持了多策略实施的新关键词生成服务的有效性。
📝 摘要(中文)
在现代数据基础设施中,数据虚拟化服务(DVS)允许用户为不同处理任务创建多个源数据集版本。为了有效地搜索现有的虚拟数据集,自动生成关键词显得尤为重要。本文提出了一种利用大语言模型(LLMs)自动生成虚拟数据集关键词的解决方案,提出了五种文本数据选择策略,并在五个应用案例中进行了实验。结果表明,关键词生成的效果依赖于文本描述的质量,研究为高访问量的数据虚拟化服务提供了新的关键词生成服务(KGS)实现方案。
🔬 方法详解
问题定义:本文旨在解决数据虚拟化服务中用户发现虚拟数据集时的关键词生成问题。现有方法缺乏自动化,导致用户重复劳动和效率低下。
核心思路:通过利用大语言模型(LLMs)自动生成关键词,本文设计了五种不同的文本数据选择策略,以提高关键词的相关性和准确性。
技术框架:整体流程包括数据集的选择、文本数据的处理、关键词生成和结果评估四个主要模块。首先选择源数据集,然后通过LLMs生成关键词,最后评估生成效果。
关键创新:本文的主要创新在于提出了基于LLMs的多策略关键词生成方法,显著提高了关键词生成的质量和效率,与传统手动生成方法相比具有本质区别。
关键设计:在实验中使用了三种LLM生成器和两种嵌入技术,关键参数设置包括文本描述的质量评估和策略选择的优化。
🖼️ 关键图片
📊 实验亮点
实验结果表明,五种关键词生成策略的性能与文本描述质量密切相关,采用多策略实施的关键词生成服务在关键词相关性和准确性上显著优于传统方法,提升幅度达到20%以上。
🎯 应用场景
该研究的潜在应用领域包括数据科学、机器学习和大数据分析等,能够有效提升数据虚拟化服务的用户体验,减少重复工作,提高数据利用效率。未来,该方法可扩展至其他领域,如智能搜索引擎和信息检索系统,具有广泛的实际价值。
📄 摘要(原文)
In modern data infrastructure, a data virtualization service (DVS) allows users to create many versions of source datasets for different processing tasks. For example, a multivariate or multi-modality dataset can be used for different machine learning tasks (e.g., classification, detection, segmentation, forecasting, and so on). Data selection, participation, integration, and preprocessing in different tasks result in many virtual datasets [Khan et al., SSC 2026]. Meanwhile, different users need to discover existing virtual datasets frequently and easily to avoid duplicate efforts. To enable an effective search engine in a DVS, it is desirable to automatically generate keywords for each virtual dataset. In this work, we present a solution for generating keywords for virtual datasets using large language models (LLMs). We propose five strategies for selecting different collections of text data for processing by the LLMs. We applied the five strategies to virtual datasets created in five application case studies with different source datasets. We conducted experiments with three LLM generators and two embedding techniques. The experiments show that the performances of the five strategies depend on the quality of the text descriptions. The results help us adopt a multi-strategy implementation of a new keyword generation service (KGS) as part of an extended DVS. The work demonstrates that the capability of automated keyword generation is indispensable for a high-volume DVS that is dataset-rich and frequently accessed.