REPLAY: Modeling Time-Varying Temporal Regularities of Human Mobility for Location Prediction over Sparse Trajectories

📄 arXiv: 2402.16310v4 📥 PDF

作者: Bangchao Deng, Bingqing Qu, Pengyang Wang, Dingqi Yang, Benjamin Fankhauser, Philippe Cudre-Mauroux

分类: cs.LG, cs.AI

发布日期: 2024-02-26 (更新: 2025-05-05)

备注: Accepted by IEEE Transactions on Mobile Computing

💡 一句话要点

提出REPLAY以解决人类移动性时间变化规律建模问题

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 位置预测 人类移动性 时间变化规律 稀疏轨迹 RNN 高斯加权平均 可学习带宽 时空距离

📋 核心要点

  1. 现有位置预测方法主要依赖时空距离，未能有效捕捉人类移动性随时间变化的规律，导致预测精度不足。
  2. REPLAY通过结合时空距离和经过平滑的时间戳嵌入，学习时间变化的移动规律，从而提高位置预测的准确性。
  3. 在两个真实数据集上的实验表明，REPLAY的预测性能比现有最先进的方法提升了7.7%-10.5%。

📝 摘要（中文）

位置预测旨在基于历史用户移动轨迹预测用户位置。为了解决真实世界用户移动轨迹的稀疏性问题，时空上下文被证明非常有用。现有方法主要通过将时空距离作为输入或用于搜索有用的过去隐藏状态来进行预测，但这些基于距离的方法未能捕捉人类移动性随时间变化的规律。为此，本文提出了REPLAY，一种通用的RNN架构，能够学习捕捉时间变化的移动规律。REPLAY结合稀疏轨迹中的时空距离和经过平滑的时间戳嵌入，使用高斯加权平均和可学习带宽，灵活适应不同时间戳的移动规律。实验结果表明，REPLAY在两个真实数据集上的位置预测任务中，性能显著优于现有方法，提升幅度为7.7%-10.5%。

🔬 方法详解

问题定义：本文旨在解决人类移动性时间变化规律建模的问题。现有方法主要依赖时空距离，未能有效捕捉人类移动性在不同时间段的规律性，导致预测效果不佳。

核心思路：REPLAY的核心思路是结合稀疏轨迹中的时空距离和时间戳嵌入，利用高斯加权平均和可学习带宽来捕捉时间变化的规律。这种设计使得模型能够灵活适应不同时间段的移动特征。

技术框架：REPLAY整体架构包括输入层、时空距离计算模块、时间戳嵌入模块和RNN预测模块。输入层接收用户的历史轨迹数据，时空距离模块计算轨迹点之间的距离，时间戳模块生成平滑的时间戳嵌入，最后通过RNN进行位置预测。

关键创新：REPLAY的关键创新在于引入了时间戳嵌入的平滑处理和可学习带宽，这使得模型能够动态调整对不同时间段的响应，显著提升了预测的准确性。与现有方法相比，REPLAY更好地捕捉了时间变化的规律。

关键设计：REPLAY采用了高斯加权平均来平滑时间戳嵌入，并设计了可学习的带宽参数，以适应不同时间段的移动规律。此外，损失函数采用了标准的均方误差（MSE）来优化预测结果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

REPLAY在两个真实数据集上的实验结果显示，其位置预测性能比现有最先进的方法提升了7.7%-10.5%。这一显著的提升表明，REPLAY能够有效捕捉人类移动性随时间变化的规律，具有重要的实际应用价值。

🎯 应用场景

该研究的潜在应用领域包括智能交通系统、个性化推荐服务和城市规划等。通过提高位置预测的准确性，REPLAY能够为用户提供更精准的服务，进而提升用户体验和资源利用效率。未来，该方法还可能扩展到其他领域，如社交网络分析和人群行为预测等。

📄 摘要（原文）

Location prediction forecasts a user's location based on historical user mobility traces. To tackle the intrinsic sparsity issue of real-world user mobility traces, spatiotemporal contexts have been shown as significantly useful. Existing solutions mostly incorporate spatiotemporal distances between locations in mobility traces, either by feeding them as additional inputs to Recurrent Neural Networks (RNNs) or by using them to search for informative past hidden states for prediction. However, such distance-based methods fail to capture the time-varying temporal regularities of human mobility, where human mobility is often more regular in the morning than in other periods, for example; this suggests the usefulness of the actual timestamps besides the temporal distances. Against this background, we propose REPLAY, a general RNN architecture learning to capture the time-varying temporal regularities for location prediction. Specifically, REPLAY not only resorts to the spatiotemporal distances in sparse trajectories to search for the informative past hidden states, but also accommodates the time-varying temporal regularities by incorporating smoothed timestamp embeddings using Gaussian weighted averaging with timestamp-specific learnable bandwidths, which can flexibly adapt to the temporal regularities of different strengths across different timestamps. Our extensive evaluation compares REPLAY against a sizable collection of state-of-the-art techniques on two real-world datasets. Results show that REPLAY consistently and significantly outperforms state-of-the-art methods by 7.7\%-10.5\% in the location prediction task, and the bandwidths reveal interesting patterns of the time-varying temporal regularities.