End-to-end Learnable Clustering for Intent Learning in Recommendation

📄 arXiv: 2401.05975v5 📥 PDF

作者: Yue Liu, Shihao Zhu, Jun Xia, Yingwei Ma, Jian Ma, Xinwang Liu, Shengju Yu, Kejun Zhang, Wenliang Zhong

分类: cs.IR, cs.AI

发布日期: 2024-01-11 (更新: 2024-11-09)

备注: 37 pages

🔗 代码/项目: GITHUB | GITHUB

💡 一句话要点

提出ELCRec以解决意图学习中的优化复杂性问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 意图学习 推荐系统 聚类算法 深度学习 自监督学习 用户行为分析 性能优化

📋 核心要点

  1. 现有意图学习方法存在复杂的交替优化问题，限制了性能和可扩展性。
  2. 本文提出ELCRec，通过端到端的可学习聚类框架，简化意图学习过程，提升推荐效果。
  3. 在Beauty数据集上，ELCRec相比于对比方法，NDCG@5提升8.9%，计算成本降低22.5%。

📝 摘要（中文）

意图学习旨在理解用户意图并进行项目推荐，近年来成为研究热点。然而，现有方法面临复杂的交替优化问题，限制了性能和可扩展性。为此，本文提出了一种新颖的意图学习方法ELCRec，通过将行为表示学习统一到一个端到端可学习的聚类框架中，从而实现高效的推荐。具体而言，我们对用户行为序列进行编码，并将聚类中心（潜在意图）初始化为可学习的神经元。设计了一种新颖的可学习聚类模块，以分离不同的聚类中心，从而解耦用户的复杂意图。同时，通过强制行为嵌入靠近聚类中心，指导网络从行为中学习意图。实验结果表明，ELCRec在多个方面优于现有方法。

🔬 方法详解

问题定义：本文旨在解决意图学习中的复杂交替优化问题。现有方法在性能和可扩展性上存在不足，导致推荐效果不理想。

核心思路：ELCRec通过将行为表示学习与可学习聚类框架结合，简化意图学习过程，允许同时优化推荐和聚类。

技术框架：整体架构包括用户行为序列编码、聚类中心初始化为可学习神经元、可学习聚类模块及意图辅助对比学习。

关键创新：ELCRec的主要创新在于将聚类中心作为自监督信号，促进意图学习与行为嵌入的相互提升，区别于传统方法的分离优化。

关键设计：设计了新的损失函数以优化聚类和推荐，同时设置了聚类中心的学习机制，确保行为嵌入与聚类中心的距离最小化。整体网络结构采用了深度学习框架，支持大规模数据处理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，ELCRec在Beauty数据集上相比于对比方法，NDCG@5提升了8.9%，计算成本降低了22.5%。此外，该方法在一个拥有1.3亿页面浏览量的工业推荐系统中也取得了良好的效果，证明了其可扩展性和普适性。

🎯 应用场景

该研究的潜在应用领域包括个性化推荐系统、电子商务平台和社交媒体等。通过提高意图学习的效率和准确性，ELCRec能够为用户提供更精准的推荐，提升用户体验和满意度，具有重要的实际价值和未来影响。

📄 摘要（原文）

Intent learning, which aims to learn users' intents for user understanding and item recommendation, has become a hot research spot in recent years. However, existing methods suffer from complex and cumbersome alternating optimization, limiting performance and scalability. To this end, we propose a novel intent learning method termed \underline{ELCRec}, by unifying behavior representation learning into an \underline{E}nd-to-end \underline{L}earnable \underline{C}lustering framework, for effective and efficient \underline{Rec}ommendation. Concretely, we encode user behavior sequences and initialize the cluster centers (latent intents) as learnable neurons. Then, we design a novel learnable clustering module to separate different cluster centers, thus decoupling users' complex intents. Meanwhile, it guides the network to learn intents from behaviors by forcing behavior embeddings close to cluster centers. This allows simultaneous optimization of recommendation and clustering via mini-batch data. Moreover, we propose intent-assisted contrastive learning by using cluster centers as self-supervision signals, further enhancing mutual promotion. Both experimental results and theoretical analyses demonstrate the superiority of ELCRec from six perspectives. Compared to the runner-up, ELCRec improves NDCG@5 by 8.9\% and reduces computational costs by 22.5\% on the Beauty dataset. Furthermore, due to the scalability and universal applicability, we deploy this method on the industrial recommendation system with 130 million page views and achieve promising results. The codes are available on GitHub (https://github.com/yueliu1999/ELCRec). A collection (papers, codes, datasets) of deep group recommendation/intent learning methods is available on GitHub (https://github.com/yueliu1999/Awesome-Deep-Group-Recommendation).