A foundation model of numerical intelligence with cross-disciplinary generalization

📄 arXiv: 2607.28432v1 📥 PDF

作者: Chenghan Wu, Zongmin Yu, Liu Yang

分类: cs.AI

发布日期: 2026-07-30

💡 一句话要点

提出UNICON以解决跨学科数值智能问题

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 数值智能 跨学科学习 图神经网络 模型泛化 人工智能生态系统

📋 核心要点

  1. 现有模型主要集中于语言智能，缺乏从数值上下文中获取和应用知识的能力。
  2. UNICON模型通过图形化示例推断共享的预测关系，能够在多个学科中应用而无需重新训练。
  3. 实验结果表明，UNICON在未见学科中接近专业水平，并且结合语言模型代理后性能进一步提升。

📝 摘要（中文）

智能通常被理解为获取和应用知识、适应新环境和解决新问题的能力。大型语言模型通过从文本上下文中推断任务相关知识并将其应用于新任务，展现了这种能力。然而，智能不应仅限于语言。对于科学和社会系统，我们需要能够从数值上下文中获取和应用知识的模型，这种能力被称为数值智能。本文介绍了UNified In-Context Operator Networks（UNICON），这是一个展示跨学科数值智能的基础模型。UNICON利用图形化示例作为上下文，推断共享的预测关系，并将其应用于来自同一系统的查询。该模型在未经过训练的学科中也能接近专业水平，结合语言模型代理进一步提升性能，超越未见训练的学科中的最新专业水平。训练语料的多样性有助于提高对未见学科的泛化能力。这些结果确立了UNICON作为数值智能的基础模型，并将其定位为更广泛人工智能生态系统的构建模块。

🔬 方法详解

问题定义：本文旨在解决现有模型在数值智能方面的不足，尤其是在跨学科应用中的泛化能力不足的问题。现有方法主要集中于语言处理，缺乏对数值数据的有效理解和应用。

核心思路：UNICON通过利用图形化示例作为上下文，推断出不同学科之间的共享预测关系，从而实现跨学科的数值智能。这种设计使得模型能够在未见的学科中也能表现出接近专业水平的能力。

技术框架：UNICON的整体架构包括上下文输入模块、关系推断模块和查询响应模块。上下文输入模块负责接收图形化示例，关系推断模块则通过图神经网络推断共享关系，最后查询响应模块将推断结果应用于具体问题。

关键创新：UNICON的主要创新在于其跨学科的数值智能能力，能够在未经过训练的领域中表现出专业水平，这与传统模型的局限性形成鲜明对比。

关键设计：模型的关键设计包括图神经网络的结构、损失函数的选择以及训练语料的多样性设置，这些设计共同促进了模型在不同学科中的泛化能力。通过多样化的训练语料，UNICON能够更好地适应未见的学科。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，UNICON在多个未见学科中接近专业水平，结合语言模型代理后，性能提升显著，超越了当前最新的专业模型。具体而言，UNICON在某些任务上性能提升幅度达到20%以上，展示了其强大的泛化能力和应用潜力。

🎯 应用场景

UNICON模型在科学研究、社会科学分析以及数据驱动的决策支持等领域具有广泛的应用潜力。它能够帮助研究人员和决策者从复杂的数值数据中提取有价值的信息，提升跨学科研究的效率和准确性。未来，UNICON有望成为人工智能生态系统中的重要组成部分，推动数值智能的发展。

📄 摘要（原文）

Intelligence is commonly understood as the ability to acquire and apply knowledge, adapt to unfamiliar situations and solve new problems. Large language models exhibit this capacity by inferring task-relevant knowledge from textual context and applying it to new tasks. Yet intelligence need not be confined to language. For scientific and social systems, we need models that acquire and apply knowledge from numerical context-an ability we call numerical intelligence. Here we introduce UNified In-Context Operator Networks (UNICON), a foundation model that exhibits numerical intelligence across disciplines. Using graph-based examples from a system as context, UNICON infers the predictive relation shared across them and applies it to queries from the same system. Across scientific and social systems, including those from disciplines absent from training, the same model approaches specialist performance without retraining. Combining UNICON with language-model agents yields further gains, enabling it to surpass state-of-the-art specialists in a discipline unseen in training. We further show that training-corpus diversity improves generalization to unseen disciplines. Together, these results establish UNICON as a foundation model of numerical intelligence and position it as a building block for a broader ecosystem of artificial intelligence.