BayesEvolve: Explicit Belief States for Autonomous Scientific Discovery

📄 arXiv: 2606.30335v1 📥 PDF

作者: Xuening Wu, Shan Yu, Qianya Xu, Shenqin Yin

分类: cs.AI

发布日期: 2026-06-29

备注: 7 pages, 2 diagrams

💡 一句话要点

提出BayesEvolve以解决自主科学发现中的不确定性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自主科学发现 大语言模型 信念引导 不确定性处理 黑箱优化 实验效率 假设评估

📋 核心要点

  1. 现有的自主科学发现系统主要依赖实验记忆，缺乏对假设质量的明确、不确定性意识的信念。
  2. BayesEvolve框架通过将实验证据转化为预测信念状态，来引导未来的实验，从而提高发现效率。
  3. 实验结果表明，BayesEvolve在固定评估预算下的样本效率优于传统的基于记忆和档案的基线方法。

📝 摘要（中文）

自主科学发现系统越来越多地使用大语言模型（LLMs）来提出新假设，但许多系统主要依赖于实验记忆，即高评分候选者的档案或近期试验的启发式总结。我们认为，发现代理应当维护关于假设质量的明确、不确定性意识的信念。我们提出了BayesEvolve，这是一种信念引导的发现框架，将实验证据转化为预测信念状态，并利用该信念指导未来的实验。作为信念引导发现的受控测试平台，我们在转移的BBOB风格黑箱优化任务上评估了BayesEvolve，未来工作将涉及程序和实验室发现领域。BayesEvolve在固定评估预算下提高了样本效率，相较于基于记忆和档案的LLM基线表现更佳。我们进一步展示了信念状态在保留候选池上的预测能力，控制决策规则的消融实验支持信念引导选择，并且BayesEvolve表现出有效的后期集中而非无序探索。

🔬 方法详解

问题定义：论文要解决的问题是现有自主科学发现系统在假设质量评估中缺乏明确的不确定性意识，导致实验效率低下。现有方法主要依赖于实验记忆，无法有效利用实验证据进行决策。

核心思路：论文提出的核心思路是构建一个信念引导的发现框架BayesEvolve，通过将实验证据转化为预测信念状态，来指导未来的实验决策。这种设计旨在提高对假设质量的评估能力，从而提升实验效率。

技术框架：BayesEvolve的整体架构包括信念状态的构建、实验证据的整合和未来实验的决策引导。主要模块包括信念状态更新模块、实验选择模块和结果反馈模块，形成一个闭环的反馈系统。

关键创新：最重要的技术创新点在于引入了明确的不确定性意识信念状态，使得发现代理能够在实验过程中动态调整其决策策略。这一方法与传统的基于记忆的策略本质上不同，后者往往缺乏对不确定性的有效处理。

关键设计：在关键设计方面，BayesEvolve采用了特定的损失函数来优化信念状态的更新，并在实验选择中引入了退火的不确定性奖励机制，以鼓励在高不确定性区域进行探索。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，BayesEvolve在固定评估预算下的样本效率显著优于基于记忆和档案的LLM基线，具体提升幅度未知。此外，信念状态在保留候选池上的预测能力得到了验证，表明其在决策过程中的有效性。

🎯 应用场景

该研究的潜在应用领域包括科学研究、药物发现和工程设计等领域，能够帮助研究人员更有效地提出和验证假设。通过提高实验的样本效率，BayesEvolve有望加速科学发现的进程，降低实验成本，并推动相关领域的创新发展。

📄 摘要（原文）

Autonomous scientific discovery systems increasingly use large language models (LLMs) to propose new hypotheses, but many such systems condition primarily on experimental memory: archives of high-scoring candidates or heuristic summaries of recent trials. We argue that discovery agents should instead maintain explicit, uncertainty-aware beliefs about hypothesis quality. We introduce BayesEvolve, a belief-guided discovery framework that converts experimental evidence into a predictive belief state and uses this belief to guide future experimentation. As a controlled testbed for belief-guided discovery, we evaluate BayesEvolve on shifted BBOB-style black-box optimization tasks, leaving program and laboratory discovery domains to future work. BayesEvolve improves sample efficiency over memory- and archive-guided LLM baselines under a fixed evaluation budget. We further show that the belief state is predictive on held-out candidate pools, that controlled decision-rule ablations favor belief-guided selection with an annealed uncertainty bonus, and that BayesEvolve exhibits productive late-stage concentration rather than unfocused exploration.