Functional Cache Grafting: Robust and Rapid Code-Policy Synthesis for Embodied Agents
作者: Saehun Chun, Wonje Choi, Sera Choi, Sanghyun Ahn, Honguk Woo
分类: cs.PL, cs.AI
发布日期: 2026-06-11
备注: Accepted at ICML 2026
💡 一句话要点
提出功能缓存嫁接以解决代码策略生成的延迟与鲁棒性问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 功能缓存 代码生成 具身智能体 策略合成 鲁棒性提升 Transformer 机器学习
📋 核心要点
- 现有的代码生成方法在开放领域具身环境中存在解码延迟和鲁棒性不足的问题。
- 本文提出FCGraft框架，通过维护功能级验证代码骨架和提示级KV缓存，实现新策略的快速合成。
- 实验结果表明，FCGraft在任务成功率上提高了18.31%，政策合成速度提升了2.3倍。
📝 摘要（中文）
代码生成大型语言模型（CodeLLMs）通过将自然语言目标和环境约束转化为结构化控制程序，为具身智能体生成可执行代码策略。然而，在开放领域的具身环境中，策略生成面临两个基本限制：一是由于长提示的重复预填计算导致的解码延迟，二是由于完全生成解码造成的鲁棒性不足，常常产生API不匹配、缺失安全保护和不稳定控制逻辑。为了解决这些问题，本文提出了功能缓存嫁接（FCGraft）框架，该框架维护了一套功能级验证代码骨架及其相关的提示级Transformer键值缓存，通过检索相关功能并在新任务提供时嫁接其KV缓存来合成新策略。FCGraft通过拼接和修补的方式进行缓存嫁接，减少冗余的预填计算，从而降低生成延迟，同时重用验证的控制结构，提高了鲁棒性。
🔬 方法详解
问题定义：本文旨在解决在开放领域具身环境中，现有代码生成方法面临的解码延迟和鲁棒性不足的问题。现有方法在长提示下的重复预填计算导致生成延迟，且完全生成解码常常产生不稳定的控制逻辑。
核心思路：FCGraft框架通过维护功能级验证代码骨架和提示级KV缓存，能够在新任务提供时快速检索相关功能并嫁接其缓存，从而减少冗余计算并提高鲁棒性。
技术框架：FCGraft的整体架构包括功能库、KV缓存和策略合成模块。功能库存储经过验证的代码骨架，KV缓存用于快速检索，策略合成模块负责将检索到的功能进行拼接和修补。
关键创新：FCGraft的主要创新在于通过缓存嫁接技术，结合功能级验证和提示级缓存，显著提高了策略生成的效率和鲁棒性。这一方法与现有的完全生成解码方法本质上不同，后者往往依赖于从头生成代码。
关键设计：FCGraft设计了高效的缓存检索机制，确保在新任务中快速找到相关功能，并通过局部修补来适应任务特定参数，减少了额外解码的需求。
🖼️ 关键图片
📊 实验亮点
实验结果显示，FCGraft在任务成功率上提高了18.31%，政策合成速度提升了2.3倍，显著优于基线方法RAGCache。这表明FCGraft在减少生成延迟和提高鲁棒性方面具有显著优势。
🎯 应用场景
该研究的潜在应用领域包括机器人控制、自动化系统和智能助手等。通过提高代码策略生成的效率和鲁棒性，FCGraft能够在复杂和动态的环境中更好地支持具身智能体的决策和行为，具有重要的实际价值和未来影响。
📄 摘要（原文）
Code-writing large language models (CodeLLMs) generate executable code policies for embodied agents by translating natural language goals and environmental constraints into structured control programs. However, policy generation in open-domain embodied environments suffers from two fundamental limitations: (i) delayed decoding caused by repetitive prefill computation over long prompts, and (ii) limited robustness due to fully generative decoding, which often produces API mismatches, missing safety guards, and unstable control logic. To address these limitations, we present FCGraft, a Functional Cache Grafting framework. FCGraft maintains a library of function-level validated code skeletons and their associated prompt-level Transformer key-value (KV) caches, and synthesizes new policies by retrieving relevant functions and grafting their KV caches when a new task is provided. Given retrieved function caches, FCGraft performs cache grafting via stitching, which composes cached function segments into a composite policy, and patching, which locally adapts only the necessary code regions to satisfy task-specific parameters and constraints with minimal additional decoding. By eliminating redundant prefill computation, this approach reduces generation latency, while reusing validated control structures improves robustness over prompt-level caching methods RAGCache, achieving 18.31% higher task success rate and 2.3x faster policy synthesis.