Integrating Large Language Models with Graphical Session-Based Recommendation

📄 arXiv: 2402.16539v1 📥 PDF

作者: Naicheng Guo, Hongwei Cheng, Qianqiao Liang, Linxun Chen, Bing Han

分类: cs.IR, cs.CL, cs.LG

发布日期: 2024-02-26

💡 一句话要点

提出LLMGR框架以解决会话推荐系统中的图结构数据理解问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 会话推荐 图神经网络 大型语言模型 推荐系统 数据理解 深度学习

📋 核心要点

  1. 现有的会话推荐方法主要依赖图神经网络，难以充分利用大型语言模型的上下文理解能力。
  2. 本文提出的LLMGR框架通过将大型语言模型与图神经网络结合，旨在提升会话推荐系统的性能。
  3. 实验结果显示，LLMGR在多个真实数据集上显著超越了现有基线，验证了其有效性。

📝 摘要（中文）

随着大型语言模型（LLMs）的快速发展，研究者们开始探索其在推荐系统中的上下文理解能力。然而，在会话推荐（SBR）领域的探索相对较少，主要是因为该领域的特殊性。SBR主要由图神经网络（GNNs）主导，因其能够捕捉相邻行为之间的隐式和显式关系。本文提出了一种名为LLMGR的框架，通过将LLMs与GNNs有效结合，弥合了二者之间的适应性差距。我们设计了一系列提示，帮助LLM理解图结构数据，并将文本信息与节点对齐，从而将用户交互转化为LLM可理解的格式。大量实验表明，LLMGR在三个真实数据集上优于多个竞争基线，显示了其在提升SBR任务中的有效性及未来研究的潜力。

🔬 方法详解

问题定义：本文旨在解决会话推荐系统中图结构数据理解不足的问题。现有方法主要依赖图神经网络，难以有效利用大型语言模型的上下文理解能力，导致推荐效果受限。

核心思路：LLMGR框架通过将大型语言模型与图神经网络相结合，充分发挥二者的优势，提升会话推荐的准确性和效果。设计一系列提示以帮助LLM理解图结构数据，从而更好地处理用户交互信息。

技术框架：LLMGR的整体架构包括数据预处理、图结构构建、提示设计和模型训练等模块。首先，将用户行为数据转化为图结构，然后设计相应的提示以指导LLM进行上下文理解，最后通过训练优化模型性能。

关键创新：LLMGR的主要创新在于将大型语言模型与图神经网络有效结合，克服了二者在数据结构上的适应性差距。这种融合方法使得会话推荐系统能够更好地理解和推荐用户行为。

关键设计：在模型设计中，采用了特定的损失函数以优化推荐效果，并在提示设计中考虑了图结构的特点，使得文本信息能够与图节点有效对齐。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在三个真实数据集上的实验结果显示，LLMGR框架在会话推荐任务中显著优于多个竞争基线，提升幅度达到10%以上，验证了其在实际应用中的有效性和潜力。

🎯 应用场景

该研究的潜在应用领域包括电子商务、社交媒体和在线内容推荐等。通过提升会话推荐系统的性能，LLMGR能够为用户提供更加个性化和精准的推荐服务，进而提升用户体验和满意度。未来，该框架也可能推动更多基于图结构数据的推荐系统研究。

📄 摘要（原文）

With the rapid development of Large Language Models (LLMs), various explorations have arisen to utilize LLMs capability of context understanding on recommender systems. While pioneering strategies have primarily transformed traditional recommendation tasks into challenges of natural language generation, there has been a relative scarcity of exploration in the domain of session-based recommendation (SBR) due to its specificity. SBR has been primarily dominated by Graph Neural Networks, which have achieved many successful outcomes due to their ability to capture both the implicit and explicit relationships between adjacent behaviors. The structural nature of graphs contrasts with the essence of natural language, posing a significant adaptation gap for LLMs. In this paper, we introduce large language models with graphical Session-Based recommendation, named LLMGR, an effective framework that bridges the aforementioned gap by harmoniously integrating LLMs with Graph Neural Networks (GNNs) for SBR tasks. This integration seeks to leverage the complementary strengths of LLMs in natural language understanding and GNNs in relational data processing, leading to a more powerful session-based recommender system that can understand and recommend items within a session. Moreover, to endow the LLM with the capability to empower SBR tasks, we design a series of prompts for both auxiliary and major instruction tuning tasks. These prompts are crafted to assist the LLM in understanding graph-structured data and align textual information with nodes, effectively translating nuanced user interactions into a format that can be understood and utilized by LLM architectures. Extensive experiments on three real-world datasets demonstrate that LLMGR outperforms several competitive baselines, indicating its effectiveness in enhancing SBR tasks and its potential as a research direction for future exploration.