Neighborhood-Enhanced Supervised Contrastive Learning for Collaborative Filtering

📄 arXiv: 2402.11523v1 📥 PDF

作者: Peijie Sun, Le Wu, Kun Zhang, Xiangzhi Chen, Meng Wang

分类: cs.IR, cs.AI

发布日期: 2024-02-18

期刊: IEEE TKDE, 2023

DOI: 10.1109/TKDE.2023.3317068

💡 一句话要点

提出邻域增强监督对比学习以解决协同过滤数据稀疏问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 协同过滤 对比学习 推荐系统 监督学习 数据稀疏 图模型 嵌入学习

📋 核心要点

  1. 现有的协同过滤方法在数据稀疏情况下表现不佳，导致推荐效果受限。
  2. 本文提出将协同邻居视为正样本的监督对比损失函数，以增强对比学习的效果。
  3. 在Yelp2018、Gowalla和Amazon-Book三个数据集上，模型在NDCG@20上显著超越了原始SGL，提升幅度可达35.36%。

📝 摘要（中文）

尽管协同过滤（CF）技术在推荐任务中有效，但面临数据稀疏的挑战。研究者们开始利用对比学习引入额外的自监督信号以应对这一问题。然而，这种方法往往无意中使目标用户/项目与其协同邻居之间的距离增大，限制了其有效性。为此，本文提出了一种解决方案，将锚节点的协同邻居视为最终目标损失函数中的正样本。我们开发了两种独特的监督对比损失函数，有效地将监督信号与对比损失结合。通过梯度分析，我们展示了不同正样本对锚节点嵌入更新的影响，且这种影响依赖于它们与锚节点及负样本的相似度。我们的Neighborhood-Enhanced Supervised Contrastive Loss（NESCL）模型在三个真实数据集上超越了原始SGL模型，分别在NDCG@20上提升了10.09%、7.09%和35.36%。

🔬 方法详解

问题定义：本文旨在解决协同过滤中的数据稀疏问题，现有方法在引入对比学习时，往往使目标用户/项目与其协同邻居之间的距离增大，影响推荐效果。

核心思路：我们提出将锚节点的协同邻居视为正样本，设计新的监督对比损失函数，以便更好地结合监督信号与对比损失，从而提升推荐模型的性能。

技术框架：整体架构基于图形协同过滤模型，采用与现有对比学习模型SGL相同的数据增强方法，主要模块包括数据预处理、损失函数计算和模型训练。

关键创新：最重要的技术创新在于提出Neighborhood-Enhanced Supervised Contrastive Loss（NESCL），该损失函数替代了SGL中的对比损失，允许协同邻居作为正样本参与训练，从而提升了模型的推荐效果。

关键设计：在损失函数设计上，考虑了正样本与负样本的相似度，确保不同正样本对锚节点嵌入更新的影响是动态的，具体参数设置和网络结构细节在实验部分进行了详细说明。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，提出的NESCL模型在三个真实数据集上均显著优于原始SGL模型，具体在Yelp2018、Gowalla和Amazon-Book上，NDCG@20的提升幅度分别为10.09%、7.09%和35.36%，验证了方法的有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括电子商务、社交媒体和内容推荐等场景，能够有效提升用户体验和满意度。通过改善推荐系统的性能，企业可以更好地满足用户需求，增加用户粘性，进而推动商业价值的提升。未来，该方法还可扩展至其他领域的推荐系统中，具有广泛的应用前景。

📄 摘要（原文）

While effective in recommendation tasks, collaborative filtering (CF) techniques face the challenge of data sparsity. Researchers have begun leveraging contrastive learning to introduce additional self-supervised signals to address this. However, this approach often unintentionally distances the target user/item from their collaborative neighbors, limiting its efficacy. In response, we propose a solution that treats the collaborative neighbors of the anchor node as positive samples within the final objective loss function. This paper focuses on developing two unique supervised contrastive loss functions that effectively combine supervision signals with contrastive loss. We analyze our proposed loss functions through the gradient lens, demonstrating that different positive samples simultaneously influence updating the anchor node's embeddings. These samples' impact depends on their similarities to the anchor node and the negative samples. Using the graph-based collaborative filtering model as our backbone and following the same data augmentation methods as the existing contrastive learning model SGL, we effectively enhance the performance of the recommendation model. Our proposed Neighborhood-Enhanced Supervised Contrastive Loss (NESCL) model substitutes the contrastive loss function in SGL with our novel loss function, showing marked performance improvement. On three real-world datasets, Yelp2018, Gowalla, and Amazon-Book, our model surpasses the original SGL by 10.09%, 7.09%, and 35.36% on NDCG@20, respectively.