Bayesian Symbolic Regression with Entropic Reinforcement Learning

📄 arXiv: 2608.09617v1 📥 PDF

作者: Oussama Boussif, Mohammed Mahfoud, Younesse Kaddar, Moksh Jain, Sida Li, Damiano Fornasiere, Xiaoyin Chen, Yoshua Bengio, Esmeralda S. Whitammer

分类: cs.LG

发布日期: 2026-08-10

备注: UAI 2026

💡 一句话要点

提出ERRLESS以解决符号回归中的不确定性量化问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 符号回归 贝叶斯方法 强化学习 最大熵 表达式采样 不确定性量化 自然科学 数据分析

📋 核心要点

  1. 现有符号回归方法在处理有限且噪声数据时，难以有效捕捉表达式的认知不确定性。
  2. 本文提出ERRLESS，通过最大熵强化学习实现从后验分布中采样表达式，克服了传统方法的局限。
  3. ERRLESS在Feynman基准测试中取得了竞争力的结果，生成的表达式简短且具有较高的解释性。

📝 摘要（中文）

符号回归是寻找描述目标变量与输入变量之间随机依赖关系的代数表达式的问题。与假设固定模型结构的回归方法不同，符号回归是一个在表达式空间中搜索的过程。现有方法在有限且噪声数据的情况下，无法有效捕捉表达式的认知不确定性。本文提出ERRLESS（基于熵正则化的强化学习表达式结构采样），通过最大熵强化学习从后验分布中进行表达式采样。ERRLESS学习一个神经策略，逐步构建表达式的抽象语法树，并在测试时通过策略的回滚采样表达式。实验结果表明，ERRLESS在Feynman基准测试中表现出竞争力，生成的表达式简短且易于解释，同时其后验预测均值在决定系数（$R^2$）上优于SMC基线，突显了贝叶斯视角在符号回归中的优势。

🔬 方法详解

问题定义：本文旨在解决符号回归中对表达式的不确定性量化问题。现有方法通常只关注寻找单一最佳拟合表达式，无法反映表达式的认知不确定性。

核心思路：ERRLESS通过引入贝叶斯视角，利用最大熵强化学习来从后验分布中采样表达式，允许在表达式空间中进行有效的搜索和不确定性量化。

技术框架：ERRLESS的整体架构包括一个神经网络策略，该策略逐步构建表达式的抽象语法树。训练过程中，策略通过最大化熵来优化表达式的生成。测试时，通过策略的回滚来采样表达式。

关键创新：ERRLESS的主要创新在于将熵正则化的强化学习应用于符号回归，允许对表达式的后验分布进行有效采样，这与传统的符号回归方法有本质区别。

关键设计：在设计中，ERRLESS使用了特定的损失函数来优化策略，并通过调整网络结构来提高表达式生成的效率和质量。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

ERRLESS在Feynman基准测试中表现优异，生成的表达式不仅简短且易于解释，其后验预测均值的决定系数（$R^2$）显著高于传统的SMC基线，展示了贝叶斯方法在符号回归中的优势。

🎯 应用场景

该研究的潜在应用领域包括自然科学中的数据分析、模型发现和科学计算等。通过提供对表达式的不确定性量化，ERRLESS能够帮助科学家更好地理解复杂系统的行为，并在模型选择和验证中提供更可靠的依据。

📄 摘要（原文）

Symbolic regression is the problem of finding an algebraic expression describing a stochastic dependence of a target variable on a set of inputs. Unlike forms of regression that fit parameters assuming a fixed model structure, symbolic regression is a search problem over the space of expressions, represented, for example, as abstract syntax trees using a library of operators. Symbolic regression is typically used in settings with limited, noisy data in the natural sciences. However, searching for a single best-fitting expression fails to capture the epistemic uncertainty about the expression, which motivates a Bayesian perspective that enables uncertainty quantification and specification of natural priors to constrain the search space. In this work, we propose ERRLESS (Entropy-Regularized Reinforcement Learning for Expression Structure Sampling), a scalable approach for sampling from the posterior distribution over expressions given data using maximum-entropy reinforcement learning. ERRLESS learns a neural policy that constructs expressions sequentially by building up their abstract syntax trees. At convergence, the policy samples expressions from the posterior. At test time, expressions can be sampled by rollouts of this policy. We demonstrate that ERRLESS achieves competitive results on the Feynman benchmark while producing short and interpretable expressions. Additionally, we demonstrate that the mean of the posterior predictive approximated by ERRLESS achieves a high coefficient of determination ($R^2$) compared to an SMC baseline, highlighting the benefits of the Bayesian perspective in symbolic regression.