Reasoning Over Space: Enabling Geographic Reasoning for LLM-Based Generative Next POI Recommendation
作者: Dongyi Lv, Qiuyu Ding, Heng-Da Xu, Zhaoxu Sun, Zhi Wang, Feng Xiong, Mu Xu
分类: cs.AI
发布日期: 2026-01-08
💡 一句话要点
提出ROS框架,利用地理信息增强LLM的生成式下一地点推荐能力
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 地理推荐 LLM 生成式推荐 空间推理 强化学习
📋 核心要点
- 现有基于LLM的推荐系统在利用地理信息方面存在不足,这限制了其在移动和本地服务场景中的应用。
- ROS框架将地理信息作为关键决策变量,通过层级空间语义ID和移动链式思考范式增强LLM的地理推理能力。
- 实验结果表明,ROS在命中率上显著优于现有LLM基线,并提升了跨城市迁移能力,同时使用了更小的模型。
📝 摘要(中文)
本文提出名为Reasoning Over Space (ROS) 的框架,旨在利用地理信息作为LLM生成式推荐中的关键决策变量,解决现有基于LLM的推荐系统在移动和本地服务场景中地理信息利用不足的问题。ROS引入了层级空间语义ID (SID),将粗粒度到细粒度的位置和POI语义离散化为组合token。同时,赋予LLM一个三阶段的移动链式思考 (CoT) 范式,该范式模拟用户个性,构建意图对齐的候选空间,并执行基于位置信息的剪枝。此外,通过空间引导的强化学习 (RL) 使模型与真实世界地理信息对齐。在三个广泛使用的基于位置的社交网络 (LBSN) 数据集上的实验表明,ROS 在命中率上比最强的基于 LLM 的基线提高了 10% 以上,并改善了跨城市迁移能力,且使用了更小的骨干模型。
🔬 方法详解
问题定义:现有基于LLM的推荐系统在生成下一地点推荐时,未能充分利用地理信息,导致推荐结果与用户的实际移动模式和本地服务需求不符。这些方法通常忽略了地理位置的层级结构和空间关系,无法有效地建模用户在不同区域的偏好和意图。
核心思路:ROS的核心思路是将地理信息融入到LLM的推理过程中,使其能够像人类一样,在考虑用户个性、意图和位置信息的基础上进行决策。通过引入层级空间语义ID和移动链式思考范式,ROS赋予LLM更强的地理推理能力,从而生成更准确和个性化的推荐结果。
技术框架:ROS框架包含三个主要阶段:(1) 用户个性建模:利用LLM学习用户的历史行为和偏好,构建用户画像。(2) 意图对齐的候选空间构建:基于用户画像和当前位置,生成一个包含潜在感兴趣地点的候选集。(3) 基于位置信息的剪枝:利用层级空间语义ID和移动链式思考范式,对候选集进行剪枝,选择最符合用户意图和位置信息的地点进行推荐。此外,使用空间引导的强化学习来微调模型,使其更好地适应真实世界的地理环境。
关键创新:ROS的关键创新在于将地理信息作为LLM推理过程中的核心决策变量。传统的推荐系统通常将地理信息作为辅助特征,而ROS则通过层级空间语义ID和移动链式思考范式,将地理信息融入到LLM的推理过程中,使其能够像人类一样进行地理推理。此外,空间引导的强化学习进一步提升了模型在真实世界地理环境中的表现。
关键设计:层级空间语义ID将地理位置划分为多个层级,例如城市、区域、街道等,并为每个层级分配唯一的ID。移动链式思考范式模拟人类的思考过程,将推荐过程分解为多个步骤,例如用户意图识别、候选地点选择、位置信息评估等。空间引导的强化学习使用地理信息作为奖励信号,引导模型学习更符合真实世界地理环境的推荐策略。具体的损失函数和网络结构细节在论文中进行了详细描述,此处未知。
📊 实验亮点
实验结果表明,ROS在三个广泛使用的LBSN数据集上取得了显著的性能提升。与最强的基于LLM的基线相比,ROS在命中率上提高了10%以上。此外,ROS还改善了跨城市迁移能力,这意味着该框架可以更好地适应不同的地理环境和用户群体。值得注意的是,ROS使用了更小的骨干模型,这表明该框架具有更高的效率和可扩展性。
🎯 应用场景
ROS框架可应用于各种基于位置的服务场景,例如旅游推荐、餐饮推荐、本地生活服务推荐等。通过利用地理信息增强LLM的推理能力,ROS可以为用户提供更个性化、更准确的推荐结果,提升用户体验,并为商家带来更多流量和收益。未来,该研究可以扩展到更复杂的场景,例如多模态推荐、跨领域推荐等。
📄 摘要(原文)
Generative recommendation with large language models (LLMs) reframes prediction as sequence generation, yet existing LLM-based recommenders remain limited in leveraging geographic signals that are crucial in mobility and local-services scenarios. Here, we present Reasoning Over Space (ROS), a framework that utilizes geography as a vital decision variable within the reasoning process. ROS introduces a Hierarchical Spatial Semantic ID (SID) that discretizes coarse-to-fine locality and POI semantics into compositional tokens, and endows LLM with a three-stage Mobility Chain-of-Thought (CoT) paradigm that models user personality, constructs an intent-aligned candidate space, and performs locality informed pruning. We further align the model with real world geography via spatial-guided Reinforcement Learning (RL). Experiments on three widely used location-based social network (LBSN) datasets show that ROS achieves over 10% relative gains in hit rate over strongest LLM-based baselines and improves cross-city transfer, despite using a smaller backbone model.