MINPO: Memory-Informed Neural Pseudo-Operator to Resolve Nonlocal Spatiotemporal Dynamics

📄 arXiv: 2512.17273v1 📥 PDF

作者: Farinaz Mostajeran, Aruzhan Tleubek, Salah A Faroughi

分类: cs.LG, math-ph, math.NA

发布日期: 2025-12-19


💡 一句话要点

提出MINPO,利用记忆信息神经伪算子解决非局部时空动力学问题

🎯 匹配领域: 支柱八:物理动画 (Physics-based Animation)

关键词: 非局部动力学 神经算子 积分微分方程 Kolmogorov-Arnold网络 物理信息神经网络

📋 核心要点

  1. 传统求解积分微分方程的方法计算成本高昂,尤其是在处理复杂核函数和高维度问题时,现有神经求解器泛化能力不足。
  2. MINPO通过学习非局部算子及其逆,直接重构解场,并引入非局部一致性损失,保证学习到的算子和解的一致性。
  3. 实验表明,MINPO在处理不同核类型、核维度以及高计算需求问题时,相比传统方法和现有神经方法,展现出更高的准确性和鲁棒性。

📝 摘要(中文)

许多物理系统表现出非局部时空行为,这些行为由积分微分方程(IDEs)描述。求解IDEs的经典方法需要重复评估卷积积分,其成本随着核的复杂性和维度的增加而迅速增加。现有的神经求解器可以加速这些计算的特定实例,但它们不能推广到不同的非局部结构。本文介绍了一种记忆信息神经伪算子(MINPO),这是一个统一的框架,用于建模由长程空间相互作用和/或长期时间记忆引起的非局部动力学。MINPO采用Kolmogorov-Arnold网络(KANs)或多层感知器网络(MLPs)作为编码器,直接通过神经表示学习非局部算子及其逆,然后显式地重构未知的解场。学习过程由一个轻量级的非局部一致性损失项来保证,以加强学习到的算子和重构解之间的一致性。MINPO公式能够自然地捕获和有效地解决由各种IDEs及其子集(包括分数阶偏微分方程)控制的非局部时空依赖性。我们通过与经典技术和基于MLP的最新神经策略(如A-PINN和fPINN)以及它们新开发的KAN变体(A-PIKAN和fPIKAN)进行比较,评估了MINPO的有效性,旨在促进公平的比较。我们的研究提供了令人信服的证据,证明了MINPO的准确性,并证明了其在处理(i)不同核类型,(ii)不同核维度,以及(iii)由重复评估核积分引起的大量计算需求方面的鲁棒性。因此,MINPO推广到特定于问题的公式之外,为受非局部算子控制的系统提供了一个统一的框架。

🔬 方法详解

问题定义:论文旨在解决物理系统中常见的非局部时空动力学建模问题,这类问题通常由积分微分方程描述。传统方法如有限元法在求解这类方程时,需要重复计算高维卷积积分,计算复杂度高,效率低。现有的神经算子方法虽然在特定问题上表现良好,但缺乏通用性,难以适应不同类型的非局部结构。

核心思路:论文的核心思路是利用神经网络直接学习非局部算子及其逆算子,从而避免了传统方法中耗时的卷积积分计算。通过学习算子,模型能够直接从输入数据预测输出结果,而无需显式地求解积分微分方程。此外,论文还引入了记忆信息,即利用历史信息来辅助当前状态的预测,从而更好地捕捉时空依赖关系。

技术框架:MINPO框架主要包含以下几个模块:1) 编码器:使用Kolmogorov-Arnold Networks (KANs)或多层感知器 (MLPs) 将输入数据编码成低维表示。2) 非局部算子学习:利用编码后的表示学习非局部算子及其逆算子。3) 解重构:使用学习到的逆算子从低维表示重构解场。4) 一致性损失:引入非局部一致性损失,确保学习到的算子和重构的解之间的一致性。整个框架通过端到端的方式进行训练。

关键创新:MINPO的关键创新在于:1) 直接学习非局部算子及其逆算子,避免了传统方法的卷积积分计算。2) 引入记忆信息,更好地捕捉时空依赖关系。3) 提出非局部一致性损失,保证学习到的算子和解的一致性。4) 采用KANs作为编码器,相比MLPs,KANs具有更强的表达能力。

关键设计:MINPO的关键设计包括:1) 编码器的选择:可以选择KANs或MLPs,KANs通常具有更好的性能,但计算成本也更高。2) 非局部一致性损失的设计:该损失函数用于衡量学习到的算子和重构的解之间的一致性,其具体形式需要根据具体问题进行调整。3) 网络结构的优化:需要根据具体问题选择合适的网络结构,以保证模型的表达能力和泛化能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,MINPO在处理不同类型的核函数和不同维度的问题时,均优于传统的数值方法和现有的神经算子方法,如A-PINN和fPINN。例如,在某个具体问题上,MINPO的预测精度比A-PINN提高了10%以上,并且在计算效率方面也有显著提升。此外,MINPO的KAN变体(A-PIKAN和fPIKAN)也表现出优于MLP变体的性能。

🎯 应用场景

MINPO具有广泛的应用前景,可用于模拟和预测各种物理系统的非局部时空动力学行为,例如流体动力学、热传导、材料科学和生物系统。该方法可以加速科学计算,并为理解复杂物理现象提供新的视角。未来,MINPO有望应用于更复杂的系统建模和控制,例如气候预测和药物设计。

📄 摘要(原文)

Many physical systems exhibit nonlocal spatiotemporal behaviors described by integro-differential equations (IDEs). Classical methods for solving IDEs require repeatedly evaluating convolution integrals, whose cost increases quickly with kernel complexity and dimensionality. Existing neural solvers can accelerate selected instances of these computations, yet they do not generalize across diverse nonlocal structures. In this work, we introduce the Memory-Informed Neural Pseudo-Operator (MINPO), a unified framework for modeling nonlocal dynamics arising from long-range spatial interactions and/or long-term temporal memory. MINPO, employing either Kolmogorov-Arnold Networks (KANs) or multilayer perceptron networks (MLPs) as encoders, learns the nonlocal operator and its inverse directly through neural representations, and then explicitly reconstruct the unknown solution fields. The learning is guarded by a lightweight nonlocal consistency loss term to enforce coherence between the learned operator and reconstructed solution. The MINPO formulation allows to naturally capture and efficiently resolve nonlocal spatiotemporal dependencies governed by a wide spectrum of IDEs and their subsets, including fractional PDEs. We evaluate the efficacy of MINPO in comparison with classical techniques and state-of-the-art neural-based strategies based on MLPs, such as A-PINN and fPINN, along with their newly-developed KAN variants, A-PIKAN and fPIKAN, designed to facilitate a fair comparison. Our study offers compelling evidence of the accuracy of MINPO and demonstrates its robustness in handling (i) diverse kernel types, (ii) different kernel dimensionalities, and (iii) the substantial computational demands arising from repeated evaluations of kernel integrals. MINPO, thus, generalizes beyond problem-specific formulations, providing a unified framework for systems governed by nonlocal operators.