MoRAX: Mobility-based Representation Augmentation for Geospatial Foundation Models
作者: Ya Wen, Jixuan Cai, Yulun Zhou, Alec Kirkley
分类: cs.LG, cs.SI
发布日期: 2026-08-18
💡 一句话要点
提出MoRAX以增强地理基础模型的城市表示能力
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 地理基础模型 人类移动数据 城市表示学习 功能连接 零-shot 部署 经济预测 环境监测
📋 核心要点
- 现有的地理基础模型在捕捉人类活动信息方面存在不足,导致城市表示学习的局限性。
- MoRAX通过引入人类移动数据,增强了地理嵌入的功能结构,支持在未见城市的零-shot 部署。
- 在四个城市的实验中,MoRAX教师模型在八个预测任务中持续超越传统GFM和基线模型。
📝 摘要(中文)
地理基础模型(GFM)作为一种新兴的强大范式,能够学习语义丰富且地理一致的视觉和物理表示。然而,它们对地球观测(EO)数据的依赖使得人类活动信息的表现不足。人类移动数据揭示了区域之间的功能和关系结构,但通常仅限于观察城市,限制了其在可转移城市表示学习中的应用。本文提出了MoRAX,一个轻量级框架,通过人类移动数据增强地理嵌入,保持GFM的覆盖和一致性,同时提供城市区域间的功能连接信息。实验结果显示,MoRAX在多个城市的经济和环境预测任务中表现优于传统GFM和强基线。
🔬 方法详解
问题定义:本文旨在解决地理基础模型在城市表示学习中对人类活动信息的不足,现有方法主要依赖于地球观测数据,缺乏对城市间功能连接的理解。
核心思路:MoRAX的核心思想是通过人类移动数据来增强地理嵌入,提供城市区域间的功能连接信息,从而提升模型的泛化能力和预测性能。
技术框架:MoRAX框架包括两个主要模块:教师模型和学生模型。教师模型利用移动数据进行训练,而学生模型则在没有移动数据的情况下进行学习,二者共同提升城市表示的准确性。
关键创新:MoRAX的创新在于引入人类移动数据作为功能连接的补充信息,显著提升了模型在未见城市的表现,区别于传统方法仅依赖EO数据。
关键设计:在模型设计中,采用了特定的损失函数以平衡教师和学生模型的学习过程,并通过调整网络结构来优化对移动数据的处理能力。具体参数设置和网络架构细节在实验部分进行了详细描述。
🖼️ 关键图片
📊 实验亮点
实验结果显示,MoRAX教师模型在八个经济和环境预测任务中超越了传统GFM和强基线,表现出显著的提升,尤其是在未见城市的零-shot 部署中,学生模型的性能接近教师模型,展示了其强大的迁移能力。
🎯 应用场景
该研究的潜在应用领域包括城市规划、交通管理和环境监测等。通过增强地理基础模型的能力,MoRAX能够为政策制定者和城市管理者提供更准确的决策支持,推动智能城市的发展。
📄 摘要(原文)
Geospatial Foundation Models (GFMs) are emerging as a powerful paradigm for learning semantically rich and geographically consistent visual and physical representations. However, their reliance on Earth-observation (EO) data leaves information about human activity largely underrepresented. Human mobility data reveals the functional and relational structure between regions that is missing from EO data, but is often limited only to the city where it is observed, making it challenging to use for transferable urban representation learning. We introduce MoRAX, a lightweight framework for augmenting geospatial embeddings with functional structure derived from human mobility. MoRAX preserves the coverage and consistency of a GFM while providing information about the functional connectivity among urban regions, permitting zero-shot deployment in unseen cities with or without available mobility data. Across four target cities spanning two countries, the MoRAX teacher model, which observes mobility, consistently outperforms GFMs and strong urban representation baselines in eight socioeconomic and environmental prediction tasks. Meanwhile, the student model, which never takes mobility data as input, approaches the teacher in performance on most tasks. Transfer results across countries further demonstrate that modulation conditioned on mobility flows provides a general mechanism for grounding geospatial foundations in the human dimension of cities.