ALBI: LLM-Guided Inductive Logic Programming via Iterative Generate-Test-Constrain Refineme
作者: Aboubaker Seddiq Benterki, Jüri Vain, Gert Kanter, Leelo Aino Jürgenstein
分类: cs.AI, cs.SC
发布日期: 2026-11-03
💡 一句话要点
提出ALBI框架以提升归纳逻辑编程的效率与准确性
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 归纳逻辑编程 大型语言模型 神经符号学习 形式验证 语义匿名化 推理能力 迭代优化
📋 核心要点
- 现有的归纳逻辑编程方法在假设生成和验证过程中效率低下,难以处理复杂的推理任务。
- ALBI框架通过引入大型语言模型,优化了假设生成过程,并结合SWI-Prolog进行形式验证,形成高效的迭代循环。
- 实验结果显示,ALBI在多个基准测试中均取得了100%的成功率,且迭代次数显著低于传统方法,展现出优越的性能。
📝 摘要(中文)
我们介绍了ALBI(基于归纳学习的智能体),这是一个神经符号的归纳逻辑编程(ILP)框架。ALBI用大型语言模型(LLM)替代了学习失败(LFF)范式中的ASP基础假设生成器,同时保留了SWI-Prolog作为形式验证器。ALBI实现了一个迭代的生成-测试-约束循环:LLM从结构化提示中提出候选假设,Prolog测试每个候选,诊断反馈驱动细化。我们进一步引入了语义匿名化,这是一种变形测试方法,用于区分结构符号归纳与谓词名称的表面模式匹配。对30个标准ILP基准的实验表明,ALBI在三种前沿LLM(Gemini 3.1 Pro、GPT 5.4 Pro、Claude Opus 4.6)上均实现了100%的成功率,且平均仅需1.4-1.7次迭代。在匿名化条件下,所有模型仍保持100%的成功率,迭代次数适度增加(1.36-1.67倍),提供了稳健符号推理的证据。
🔬 方法详解
问题定义:本论文旨在解决现有归纳逻辑编程(ILP)方法在假设生成和验证中的效率低下问题,尤其是在复杂推理任务中的表现不足。
核心思路:ALBI框架的核心思路是利用大型语言模型(LLM)替代传统的ASP基础假设生成器,从而提高假设生成的灵活性和准确性,同时保留SWI-Prolog作为形式验证工具,以确保生成假设的有效性。
技术框架:ALBI的整体架构包括三个主要模块:生成模块(LLM生成候选假设)、测试模块(Prolog验证假设)和反馈模块(根据测试结果进行迭代优化)。该框架通过迭代的生成-测试-约束循环来不断优化假设。
关键创新:ALBI的主要创新在于引入了语义匿名化技术,这种变形测试方法能够有效区分结构符号归纳与表面模式匹配,增强了模型的推理能力和适应性。
关键设计:在模型设计中,ALBI对LLM的提示结构进行了优化,以提高生成假设的质量,同时在Prolog中设置了高效的验证机制,确保每个候选假设都经过严格的测试和反馈调整。实验中,模型的迭代次数被控制在1.4-1.7次,显示出良好的效率。
🖼️ 关键图片
📊 实验亮点
实验结果显示,ALBI在30个标准ILP基准测试中均实现了100%的成功率,且在使用三种前沿LLM时,平均迭代次数仅为1.4-1.7次。即使在引入语义匿名化后,模型仍保持100%的成功率,迭代次数适度增加(1.36-1.67倍),证明了其稳健的符号推理能力。
🎯 应用场景
ALBI框架具有广泛的应用潜力,尤其在需要复杂推理和知识推导的领域,如法律推理、医学诊断和科学发现等。通过提高归纳逻辑编程的效率和准确性,ALBI能够帮助研究人员和专业人士更快速地从数据中提取有价值的信息,推动相关领域的发展。
📄 摘要(原文)
We introduce ALBI (Agent for Learning By Induction), a neuro-symbolic ILP framework that replaces the ASP-based hypothesis generator in the Learning from Failures (LFF) paradigm with a Large Language Model (LLM), while retaining SWI-Prolog as a formal verifier. ALBI implements an iterative generate-test-constrain loop: the LLM proposes candidate hypotheses from structured prompts; Prolog tests each candidate; and diagnostic feedback drives refinement. We further introduce semantic anonymization, a metamorphic testing methodology, to distinguish structural symbolic induction from surface-level pattern matching on predicate names. Experiments on 30 standard ILP benchmarks show that ALBI achieves 100% success across three frontier LLMs (Gemini 3.1 Pro, GPT 5.4 Pro, Claude Opus 4.6), matching Popper while requiring only 1.4-1.7 iterations on average. Under anonymization, all models maintain 100% success with a moderate iteration increase (1.36-1.67 times), providing evidence of robust symbolic reasoning.