MoveFM-R: Advancing Mobility Foundation Models via Language-driven Semantic Reasoning

📄 arXiv: 2509.22403v1 📥 PDF

作者: Fanjin Meng, Yuan Yuan, Jingtao Ding, Jie Feng, Chonghua Han, Yong Li

分类: cs.LG

发布日期: 2025-09-26

💡 一句话要点

MoveFM-R：通过语言驱动的语义推理提升出行基础模型性能

🎯 匹配领域: 支柱四：生成式动作 (Generative Motion) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 出行基础模型 大型语言模型 语义推理 轨迹生成 位置编码 课程学习 自我反思

📋 核心要点

  1. 现有出行基础模型在数据规模和语义理解上存在局限性，难以充分建模人类移动模式。
  2. MoveFM-R通过语义增强的位置编码、渐进式课程学习和交互式自我反思机制，融合了MFM的统计能力和LLM的语义理解能力。
  3. 实验表明，MoveFM-R在轨迹生成任务上显著优于现有方法，并在零样本设置中表现出良好的泛化能力。

📝 摘要（中文）

出行基础模型(MFMs)在建模人类移动模式方面取得了进展，但由于数据规模和语义理解的限制，面临瓶颈。大型语言模型(LLMs)提供了强大的语义推理能力，但缺乏生成符合物理规律的移动轨迹所需的时空统计的内在理解。为了解决这些差距，我们提出了MoveFM-R，这是一个通过利用语言驱动的语义推理能力来释放出行基础模型全部潜力的新框架。它解决了两个关键挑战：连续地理坐标和离散语言token之间的词汇不匹配，以及MFMs的潜在向量和LLMs的语义世界之间的表示差距。MoveFM-R建立在三个核心创新之上：语义增强的位置编码，以弥合地理-语言差距；渐进式课程，使LLM的推理与移动模式对齐；以及用于条件轨迹生成的交互式自我反思机制。大量实验表明，MoveFM-R显著优于现有的基于MFM和基于LLM的基线。它还在零样本设置中表现出强大的泛化能力，并且擅长从自然语言指令生成真实的轨迹。通过将MFM的统计能力与LLM的深度语义理解相结合，MoveFM-R开创了一种新的范例，从而能够对人类移动性进行更全面、可解释和强大的建模。

🔬 方法详解

问题定义：论文旨在解决出行基础模型（MFMs）在理解和生成人类移动轨迹时，由于缺乏足够的语义信息而导致的性能瓶颈问题。现有的MFMs虽然能够捕捉时空统计规律，但难以理解自然语言指令，也无法进行复杂的语义推理，导致生成的轨迹缺乏可解释性和控制性。

核心思路：MoveFM-R的核心思路是将大型语言模型（LLMs）的强大语义推理能力与MFMs的时空建模能力相结合。通过弥合地理坐标和语言token之间的鸿沟，以及对齐MFMs和LLMs的表示空间，使得LLMs能够理解并指导MFMs生成更符合语义信息的轨迹。

技术框架：MoveFM-R框架包含三个主要模块：1) 语义增强的位置编码：将地理坐标转换为包含语义信息的向量表示，以便LLM理解。2) 渐进式课程学习：逐步引导LLM学习移动模式，使其推理过程与轨迹生成任务对齐。3) 交互式自我反思机制：允许LLM在生成轨迹的过程中进行自我评估和修正，从而提高轨迹的质量和真实性。

关键创新：MoveFM-R的关键创新在于它将LLM的语义推理能力引入到出行轨迹生成任务中，并提出了有效的机制来解决地理坐标和语言token之间的词汇不匹配问题，以及MFMs和LLMs之间的表示差距问题。与现有方法相比，MoveFM-R能够生成更符合语义信息、更可控和更真实的轨迹。

关键设计：语义增强的位置编码使用了预训练的语言模型来编码地理位置的上下文信息。渐进式课程学习通过逐步增加训练数据的难度，引导LLM学习复杂的移动模式。交互式自我反思机制使用强化学习来训练LLM，使其能够根据生成的轨迹评估自身性能并进行改进。

📊 实验亮点

实验结果表明，MoveFM-R在轨迹生成任务上显著优于现有的基于MFM和基于LLM的基线方法。具体来说，MoveFM-R在多个指标上取得了显著提升，例如轨迹的真实性、多样性和与自然语言指令的匹配度。此外，MoveFM-R还在零样本设置中表现出强大的泛化能力，表明其能够适应不同的场景和任务。

🎯 应用场景

MoveFM-R具有广泛的应用前景，例如智能交通规划、个性化导航、城市应急响应、基于位置的社交网络分析等。通过理解用户的出行意图和偏好，MoveFM-R可以生成更智能、更个性化的出行方案，从而提高出行效率和用户体验。此外，MoveFM-R还可以用于模拟和预测人群流动，为城市规划和管理提供决策支持。

📄 摘要（原文）

Mobility Foundation Models (MFMs) have advanced the modeling of human movement patterns, yet they face a ceiling due to limitations in data scale and semantic understanding. While Large Language Models (LLMs) offer powerful semantic reasoning, they lack the innate understanding of spatio-temporal statistics required for generating physically plausible mobility trajectories. To address these gaps, we propose MoveFM-R, a novel framework that unlocks the full potential of mobility foundation models by leveraging language-driven semantic reasoning capabilities. It tackles two key challenges: the vocabulary mismatch between continuous geographic coordinates and discrete language tokens, and the representation gap between the latent vectors of MFMs and the semantic world of LLMs. MoveFM-R is built on three core innovations: a semantically enhanced location encoding to bridge the geography-language gap, a progressive curriculum to align the LLM's reasoning with mobility patterns, and an interactive self-reflection mechanism for conditional trajectory generation. Extensive experiments demonstrate that MoveFM-R significantly outperforms existing MFM-based and LLM-based baselines. It also shows robust generalization in zero-shot settings and excels at generating realistic trajectories from natural language instructions. By synthesizing the statistical power of MFMs with the deep semantic understanding of LLMs, MoveFM-R pioneers a new paradigm that enables a more comprehensive, interpretable, and powerful modeling of human mobility. The implementation of MoveFM-R is available online at https://anonymous.4open.science/r/MoveFM-R-CDE7/.