DASyR-LLM: Domain-Aware Symbolic Regression with LLMs for Kinetic Model Discovery

📄 arXiv: 2608.05120v1 📥 PDF

作者: Roberto Aliaga Medina, Paulina Quintanilla, Antonio del Rio Chanona

分类: cs.LG, cs.CE, cs.SC

发布日期: 2026-08-05

💡 一句话要点

提出DASyR-LLM框架以解决动量模型发现问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 符号回归 大型语言模型 动量模型发现 化学工程 自动化建模

📋 核心要点

  1. 现有的符号回归方法在动量模型发现中缺乏领域知识，导致生成的模型往往不符合物理化学规律。
  2. 本文提出的DASyR-LLM框架通过引入大型语言模型，增强了符号回归的领域知识，使得模型发现过程更加高效和准确。
  3. 实验结果显示，该框架在识别真实模型的迭代次数上减少了41.7%-79.3%，且在所有案例中预测性能均达到R²>0.98。

📝 摘要（中文）

动量模型发现是化学工程中的核心挑战，准确的速率表达式对于理解和控制化学及生物过程至关重要。符号回归（SR）作为一种数据驱动的方法，能够识别可解释的动量模型，但通常缺乏领域知识，导致探索出物理化学上不合理的模型。本文提出了一种LLM引导的SR框架，将大型语言模型嵌入到迭代SR算法中，以实现自动化的动量模型发现。LLM在每次迭代中扮演两个角色：对最佳SR候选模型进行定性物理化学评估，并根据SR生成的模型和嵌入的化学知识提出新的候选速率表达式。实验结果表明，该框架在识别真实模型的迭代次数上减少了41.7%-79.3%，并且在超过一半的引导运行中，LLM直接提出了正确的模型结构。

🔬 方法详解

问题定义：论文旨在解决动量模型发现中的领域知识缺乏问题。现有的符号回归方法往往生成不合理的物理化学模型，影响了模型的有效性和可解释性。

核心思路：本文提出的DASyR-LLM框架通过将大型语言模型（LLM）嵌入到符号回归算法中，利用LLM的领域知识对候选模型进行评估和改进，从而提高模型发现的效率和准确性。

技术框架：该框架包含两个主要模块：一是符号回归模块，负责生成候选模型；二是LLM模块，负责对候选模型进行评估和提出新的候选速率表达式。整个过程是一个迭代的循环，LLM在每次迭代中提供反馈和建议。

关键创新：最重要的技术创新在于将LLM与符号回归相结合，使得模型发现过程不仅依赖于数据驱动的方法，还能够融入领域知识，从而有效避免生成不合理模型的风险。

关键设计：在设计中，LLM的规模和结构经过优化，以确保在保持发现效率的同时，能够有效地提供领域知识的支持。实验中还进行了消融研究，表明LLM和SR组件的结合对性能提升至关重要。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，DASyR-LLM框架在识别真实模型的迭代次数上减少了41.7%-79.3%，且在超过一半的引导运行中，LLM直接提出了正确的模型结构。所有案例的预测性能均达到了R²>0.98，显示出该方法的有效性。

🎯 应用场景

该研究的潜在应用领域包括化学工程、药物开发和生物过程优化等。通过自动化的动量模型发现，研究人员可以更快速地获得准确的模型，从而提高实验效率，降低研发成本，推动科学研究的进展。

📄 摘要（原文）

Kinetic model discovery is a central challenge in chemical engineering, as accurate rate expressions are essential for understanding and controlling chemical and biological processes. Symbolic regression (SR) has emerged as a powerful data-driven approach for identifying interpretable kinetic models, but usually operates without domain knowledge, often exploring physicochemically implausible models. Large language models (LLMs) offer a promising avenue for injecting domain expertise into this search. Here, we introduce an LLM-guided SR framework, embedding an LLM module within an iterative SR algorithm for automated kinetic model discovery. The LLM performs two roles at each iteration: (1) a qualitative physicochemical critique of the best SR candidates, and (2) the proposal of new candidate rate expressions guided by the SR-generated models and embedded chemical knowledge. Our framework is evaluated on four in silico case studies of increasing complexity, spanning heterogeneous catalysis and bioprocess systems. Results show the LLM-guided framework reduces iterations to identify the ground-truth model by $41.7-79.3\%$ versus a state-of-the-art SR framework, with the LLM directly proposing the correct model structure in over half of the guided runs. In practical settings, where each iteration typically requires a new wet-lab experiment, this translates into a substantial reduction in experimental effort. Predictive performance on an independent validation set is equivalent between both approaches, with $R^2>0.98$ in all case studies. Ablation studies indicate that both the SR component and the LLM scale contribute to this performance, with a reduced-size LLM largely retaining discovery efficiency. These findings demonstrate that LLMs can effectively inject domain knowledge into scientific model discovery, paving the way toward fully automated, domain-aware kinetic modelling pipelines.