COVENANT: Natural-Language Workflow Compilation for Aligned Agent Execution

📄 arXiv: 2607.25400v1 📥 PDF

作者: Jincheng Wang, Min Zheng, Tao Wei

分类: cs.AI

发布日期: 2026-07-28

备注: 12 pages, 7 figures

💡 一句话要点

提出COVENANT以解决大语言模型工作流对齐问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 工作流对齐 大语言模型 自然语言处理 编译器架构 控制流图 智能代理 自动化执行

📋 核心要点

  1. 现有方法在处理自然语言工作流指令时，容易导致工作流不对齐，影响执行效果。
  2. COVENANT通过将工作流指令视为源程序，构建工作流抽象语法树和控制流图，从而实现更精确的执行。
  3. 实验结果表明，COVENANT在120个案例中成功率从50%提升至83.33%，不对齐失败率降低至15.83%。

📝 摘要（中文）

随着大语言模型（LLM）代理越来越多地被赋予自然语言工作流指令（如零售支付政策），这些指令不仅指定了要实现的结果，还规定了允许的步骤、分支和工具交互。然而，当这些指令作为提示上下文提供时，模型仍然控制程序选择和步骤执行，导致工作流不对齐的问题。为此，本文提出了COVENANT，一个用于工作流对齐代理执行的编译器和解释器架构。COVENANT将工作流指令视为源程序，转换为工作流抽象语法树（WAST）并降低为工作流控制流图（WCFG）。在运行时，控制器逐节点解释WCFG，并根据指令提取的要求检查每个提议，显著提高了工作流的成功率和减少了不对齐失败率。

🔬 方法详解

问题定义：本文旨在解决大语言模型在执行自然语言工作流指令时的工作流不对齐问题。现有方法在指令执行过程中，模型可能跳过必要步骤或执行不支持的操作，导致失败。

核心思路：COVENANT的核心思想是将工作流指令视为源程序，而非简单的提示。通过这种方式，能够更好地控制执行过程，确保每一步都符合指令要求。

技术框架：COVENANT的整体架构包括两个主要模块：编译器和解释器。编译器将工作流指令转换为工作流抽象语法树（WAST），然后降低为工作流控制流图（WCFG）。解释器在运行时逐节点检查和执行WCFG。

关键创新：COVENANT的主要创新在于将工作流指令视为源程序，并通过构建控制流图来实现精确的执行控制。这一方法与传统的提示驱动执行方式有本质区别。

关键设计：在设计中，COVENANT采用了逐节点解释的方式，确保每个提议都经过指令要求的验证。此外，系统提供了诊断反馈机制，以便在执行过程中进行修复和调整。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

COVENANT在120个案例的实验中，成功率从50%提升至83.33%，不对齐失败率从42.50%降低至15.83%，相对减少62.75%。这些结果表明，COVENANT在工作流对齐方面取得了显著进展，超越了现有的最先进大语言模型代理。

🎯 应用场景

COVENANT的研究成果在多个领域具有广泛的应用潜力，尤其是在需要复杂工作流执行的场景，如自动化客服、智能助手和企业流程管理等。通过提高工作流的对齐性，COVENANT能够显著提升系统的可靠性和用户体验，未来可能推动更多基于自然语言的自动化解决方案的发展。

📄 摘要（原文）

Large language model (LLM) agents are increasingly entrusted with natural-language workflow instructions (e.g., retail-payment policies) that specify not only what outcome to achieve, but also which steps, branches, and tool interactions are permitted. When these instructions are supplied as prompt context, however, the model retains control over both procedure selection and step execution. As interactions accumulate, an agent can skip required steps, take unsupported branches, or execute a valid step with unsupported arguments or effects--a failure mode we call workflow misalignment. In this work, we propose COVENANT, a compiler-and-interpreter architecture for workflow-aligned agent execution. Our key insight is to treat workflow instructions as source programs rather than prompts. COVENANT converts the instructions into a workflow abstract syntax tree (WAST) and lowers it to a workflow control-flow graph (WCFG). At runtime, a controller interprets the WCFG one node at a time, checks each proposal against requirements extracted from the instructions before committing controller state or advancing the graph, and returns diagnostic feedback for repair. To evaluate COVENANT, we use 120 cases from three existing benchmarks, spanning seven workflow scenarios. Compared with state-of-the-art LLM agents, COVENANT improves benchmark success from 50.00% to 83.33% and reduces the workflow-misalignment failure rate from 42.50% to 15.83% (62.75% relative). These results show that COVENANT substantially mitigates workflow misalignment, moving LLM-agent alignment beyond isolated prompt following toward reliable execution of complex and multi-step workflows.