Automating the Generation of Prompts for LLM-based Action Choice in PDDL Planning

📄 arXiv: 2311.09830v4 📥 PDF

作者: Katharina Stein, Daniel Fišer, Jörg Hoffmann, Alexander Koller

分类: cs.AI, cs.CL

发布日期: 2023-11-16 (更新: 2025-05-02)

备注: Extended version of the paper from the ICAPS'25 proceedings (same main part + additional appendix)

💡 一句话要点

自动生成PDDL规划中的NL提示以提升LLM行动选择能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 自然语言处理 规划算法 PDDL 自动化生成 实验评估 智能决策

📋 核心要点

  1. 现有方法依赖手动将PDDL领域转换为自然语言提示，效率低且难以扩展。
  2. 论文提出了一种自动化的方法，通过LLM将PDDL输入转换为自然语言提示，简化了流程。
  3. 实验表明，自动生成的NL提示在LLM规划性能上优于传统PDDL提示和模板生成的NL提示。

📝 摘要（中文）

大型语言模型（LLMs）在自然语言处理任务中取得了革命性进展，但其推理和规划能力仍存在争议。本文通过自动化将PDDL（规划领域描述语言）转换为自然语言提示的过程，展示了如何利用LLM自动生成NL提示。实验结果表明，自动生成的NL提示在LLM规划性能上与手动生成的提示相似，并且能够进行更大规模的实验评估。与PDDL提示和简单模板生成的NL提示相比，自动生成的NL提示表现更佳。尽管LLM规划在某些领域仍落后于符号规划器，但在某些情况下，最佳LLM配置的性能超过了A*算法。

🔬 方法详解

问题定义：本文旨在解决现有PDDL规划中手动生成自然语言提示的低效问题，现有方法难以进行大规模实验评估。

核心思路：通过利用大型语言模型（LLM）自动生成自然语言提示，论文实现了从PDDL输入到NL提示的自动转换，提升了效率和可扩展性。

技术框架：整体流程包括三个主要模块：首先，解析PDDL输入；其次，利用LLM生成对应的自然语言提示；最后，评估生成提示的规划性能。

关键创新：最重要的创新在于实现了PDDL到NL提示的自动化转换，显著提高了实验的规模和效率，与传统手动生成方法相比，减少了人工干预。

关键设计：在参数设置上，选择了适合PDDL领域的LLM配置，并设计了特定的损失函数以优化生成的NL提示质量。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，自动生成的NL提示在LLM规划性能上优于传统的PDDL提示和简单模板生成的NL提示，且在某些领域，最佳LLM配置的性能超过了A*算法，展示了显著的提升。

🎯 应用场景

该研究的潜在应用领域包括智能规划系统、自动化决策支持和人机交互等。通过提高LLM在规划任务中的表现，能够为复杂系统的自动化管理提供更强大的支持，未来可能在机器人、智能助手等领域产生深远影响。

📄 摘要（原文）

Large language models (LLMs) have revolutionized a large variety of NLP tasks. An active debate is to what extent they can do reasoning and planning. Prior work has assessed the latter in the specific context of PDDL planning, based on manually converting three PDDL domains into natural language (NL) prompts. Here we automate this conversion step, showing how to leverage an LLM to automatically generate NL prompts from PDDL input. Our automatically generated NL prompts result in similar LLM-planning performance as the previous manually generated ones. Beyond this, the automation enables us to run much larger experiments, providing for the first time a broad evaluation of LLM planning performance in PDDL. Our NL prompts yield better performance than PDDL prompts and simple template-based NL prompts. Compared to symbolic planners, LLM planning lags far behind; but in some domains, our best LLM configuration scales up further than A$^\star$ using LM-cut.