Hierarchical Exponential-Gaussian Mixtures for Watch-Time Distribution Prediction
作者: Sofia Gulevskaia, Mikhail Trapeznikov, Aleksandr Poslavsky, Alexander D'yakonov
分类: cs.IR, cs.LG, stat.ML
发布日期: 2026-08-24
备注: 16 pages, 8 figures, 7 tables, accepted at IEEE International Conference on Data Mining (ICDM 2026)
🔗 代码/项目: GITHUB
💡 一句话要点
提出层次化指数-高斯混合模型以解决观看时间预测问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 观看时间预测 指数-高斯混合 层次化模型 短视频推荐 用户参与度 机器学习 模型稳定性
📋 核心要点
- 现有的观看时间预测方法存在方差崩溃、组件冗余和非活跃组件等问题，影响了预测的准确性和稳定性。
- 本文提出的层次化指数-高斯混合模型通过多种技术手段，改善了现有模型的不足，增强了模型的稳定性和可解释性。
- 在多个公共和工业数据集上，HEGM模型在排名准确性和阈值事件预测上均有显著提升，并通过A/B测试验证了其实际效果。
📝 摘要（中文）
准确的观看时间（WT）预测是短视频推荐的重要需求。然而，WT分布呈现近零膨胀、长尾和多模态特征。近期的指数-高斯混合网络（EGMN）模型能够建模完整的条件WT分布，但在大规模复现研究中发现其易受方差崩溃、组件冗余和非活跃组件的影响。为此，本文提出了层次化指数-高斯混合（HEGM）模型，通过层次化跳过观察分解、基于KL的方差正则化、结构化初始化、去除强制高斯偏移和熵正则化来解决这些问题。在公共和大规模工业数据集上，HEGM提高了排名准确性和阈值事件预测，同时保持了竞争性的点估计准确性，并显著改善了混合稳定性和可解释性。为期1.5个月的生产A/B测试确认了统计显著的参与度提升。我们的代码和模型已公开发布。
🔬 方法详解
问题定义：本文旨在解决观看时间预测中的方差崩溃、组件冗余和非活跃组件等问题，这些问题导致现有指数-高斯混合网络（EGMN）模型的性能下降。
核心思路：提出层次化指数-高斯混合（HEGM）模型，通过层次化跳过观察分解和正则化技术，增强模型的稳定性和可解释性，避免了EGMN的缺陷。
技术框架：HEGM模型的整体架构包括层次化分解模块、KL方差正则化模块、结构化初始化模块及熵正则化模块，确保模型在训练过程中的稳定性和准确性。
关键创新：HEGM的核心创新在于引入层次化跳过观察分解和KL方差正则化，这与EGMN的单一组件设计形成鲜明对比，显著提升了模型的性能和稳定性。
关键设计：在模型设计中，采用了结构化初始化以避免训练初期的不稳定，同时通过熵正则化来增强模型的可解释性，确保每个组件的有效性。具体的损失函数和参数设置也经过精心设计，以优化模型的整体表现。
🖼️ 关键图片
📊 实验亮点
在实验中，HEGM模型在多个公共和工业数据集上显著提高了排名准确性和阈值事件预测能力，相较于基线模型，参与度提升达到了统计显著水平。1.5个月的A/B测试结果进一步验证了其实际应用效果。
🎯 应用场景
该研究的潜在应用领域包括短视频推荐系统、在线广告投放和用户行为分析等。通过提高观看时间预测的准确性，能够有效提升用户的参与度和满意度，进而推动内容平台的商业价值和用户粘性。
📄 摘要（原文）
Accurate watch-time (WT) prediction is an important requirement for short-video recommendations. Yet WT distributions are near-zero-inflated, long-tailed and multimodal. The recent Exponential-Gaussian Mixture Network (EGMN) models the full conditional WT distribution rather than a single point estimate and achieves state-of-the-art performance. Our large-scale reproduction study reveals that EGMN is vulnerable to variance collapse, component redundancy, and inactive components. We propose a Hierarchical Exponential-Gaussian Mixture (HEGM) model that addresses these failure modes through a hierarchical skip-watch decomposition, KL-based variance regularization, structured initialization, removing the forced Gaussian shift and the entropy regularizer. Across public and large-scale industrial datasets, HEGM improves ranking accuracy and threshold-event prediction, while maintaining competitive point-estimation accuracy and substantially improving mixture stability and interpretability. A 1.5-month production A/B test confirms statistically significant engagement lifts. Our code and models are publicly released at https://github.com/rw404/HEGM.