TerraBench: Can Agents Reason Over Heterogeneous Earth-System Data?
作者: Dat Tien Nguyen, Thao Nguyen, Fadillah Adamsyah Maani, Huy M. Le, Muhammad Umer Sheikh, Numan Saeed, Muhammad Haris Khan, Salman Khan
分类: cs.AI
发布日期: 2026-06-11
💡 一句话要点
提出TerraBench以解决异构地球系统数据推理问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 地球科学 异构数据 推理能力 环境决策 大型语言模型 科学工具 基准测试 多模态融合
📋 核心要点
- 现有的天气和气候模型无法在高维地球系统数据上进行有效推理,导致科学工作流程受限。
- 论文提出TerraBench基准,结合了推理、工具调用和观察,旨在提升地球科学领域的推理能力。
- 实验结果显示,TerraBench包含403个任务和24500个验证执行步骤,表明其在协调异构工作流方面的有效性。
📝 摘要(中文)
气候和环境决策日益需要在异构输入数据上进行推理,包括网格物理数据、卫星图像、地理空间上下文和模拟器输出。现有的天气和气候基础模型在预测方面表现良好,但无法进行语言交互推理;而大型语言模型(LLMs)能够进行语言推理,但无法直接处理高维地球系统数据。因此,地球科学中的实际科学工作流程仍未得到充分服务。我们介绍了TerraBench,这是一个基于TerraAgent的基准,用于扎根于地球科学推理,结合了推理、工具调用和观察,以将LLM规划与环境检索、地理空间处理、模拟和基于文物的计算相结合。TerraBench将地球观测图像、网格数据、GIS推理和模拟的分析统一在一个可执行接口中,而之前的基准则将这些能力孤立为狭窄的单一任务。
🔬 方法详解
问题定义:论文要解决的问题是如何在异构地球系统数据上进行有效推理。现有方法在处理多种数据类型时存在局限性,无法实现有效的交互推理。
核心思路:论文的核心解决思路是构建TerraBench基准,通过结合LLM规划与科学工具,提升对环境数据的推理能力。这样的设计使得模型能够在多种数据类型上进行有效的推理和分析。
技术框架:整体架构包括TerraAgent框架,集成了推理、工具调用和观察模块。主要模块包括环境检索、地理空间处理、模拟和基于文物的计算,形成一个统一的可执行接口。
关键创新:最重要的技术创新点在于将过程级工具使用指标与容忍度感知的数值评分相结合,这是该领域的首次尝试,显著提升了推理的准确性和可靠性。
关键设计:关键设计包括对工具的精确参数化、对异构工作流的协调能力,以及对文物来源的保留。这些设计确保了模型在执行复杂任务时的有效性和可靠性。
🖼️ 关键图片
📊 实验亮点
实验结果显示,TerraBench包含403个任务和24500个验证执行步骤,表明其在协调异构工作流方面的有效性。与现有基准相比,TerraBench在推理能力和工具使用的准确性上有显著提升,展示了其在地球科学领域的广泛应用潜力。
🎯 应用场景
该研究的潜在应用领域包括气候变化监测、环境管理、资源分配和灾害响应等。通过提升对异构数据的推理能力,TerraBench能够为科学家和决策者提供更为准确和高效的支持,推动可持续发展和环境保护的实际价值。未来,该方法可能会影响地球科学研究的多个方面,促进跨学科的合作与创新。
📄 摘要(原文)
Climate and environmental decision-making increasingly requires reasoning across heterogeneous inputs, including gridded physical data, satellite imagery, geospatial context, and simulator outputs. Weather and climate foundation models can forecast well, but do not reason interactively in language, while large language models (LLMs) reason in language but cannot operate directly on high-dimensional Earth-system data. As a result, real scientific workflows in Earth-science remain underserved. We introduce TerraBench, a benchmark for grounded Earth-science reasoning, built on TerraAgent, a ReAct-style executable framework that interleaves reasoning, tool calls, and observations to couple LLM planning with scientific tools for environmental retrieval, geospatial processing, simulation, and artifact-backed computation. TerraBench unifies analysis of Earth observation imagery, gridded data, GIS reasoning and simulation in a single executable interface, whereas prior benchmarks isolate these capabilities into narrow individual tasks. It is also the first in this space to pair process-level tool-use metrics with tolerance-aware numeric scoring. The benchmark comprises 403 extensive agentic tasks across three tracks (Fundamentals, Simulator-Grounded, and Document-Grounded Verification) and eight application domains with 24,500 verified execution steps. These results indicate that reliable Earth-science agents must go beyond tool access to coordinate heterogeneous workflows, parameterize tools precisely, and preserve artifact provenance.