ATLAS: Discovering Agent Strategies through LLM-Guided Abstraction and Automata Learning
作者: Ignacio D. Lopez-Miguel, Andreas Happe, Jürgen Cito, Ezio Bartocci, Bettina Könighofer, Martin Tappler
分类: cs.SE, cs.LG
发布日期: 2026-08-14
备注: 7 pages, accepted for publication at ACM/IEEE MODELS 2026
💡 一句话要点
提出ATLAS以解决LLM代理行为理解问题
🎯 匹配领域: 支柱四：生成式动作 (Generative Motion) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 行为模型 自动机学习 轨迹分析 渗透测试 可解释性 网络安全
📋 核心要点
- 现有方法主要关注任务成功率，缺乏对代理行为策略的深入分析与理解。
- ATLAS通过结合轨迹抽象与自动机学习，恢复可解释的行为模型，揭示代理与环境的交互策略。
- 实验结果表明，ATLAS能够有效识别渗透测试中的高层次行为策略，提升对代理行为的理解与分析能力。
📝 摘要（中文）
随着基于大型语言模型（LLM）的代理在软件测试和网络安全评估等复杂任务中的应用日益增多，这些代理的行为变得难以理解和分析。现有评估主要集中在任务成功率和执行轨迹上，缺乏对代理策略的深入洞察。本文提出ATLAS（代理轨迹分析与策略发现的自动机学习），通过轨迹抽象与自动机学习相结合，从代理轨迹中恢复可解释的行为模型。这些模型为人类提供了可理解的见解，并支持对重复行为、决策点、成功任务路径和失败循环的自动分析。作为概念验证，ATLAS被应用于LLM基础的渗透测试代理生成的轨迹，揭示了高层次的行为策略，帮助识别从原始执行轨迹中难以发现的漏洞利用方式。
🔬 方法详解
问题定义：本文旨在解决基于LLM的代理行为难以理解和分析的问题。现有方法主要关注任务成功率，缺乏对代理策略的深入洞察，导致难以解释代理的行为。
核心思路：ATLAS的核心思路是通过轨迹抽象与自动机学习相结合，从代理的执行轨迹中恢复可解释的有限状态模型。这种设计使得代理的行为策略能够被人类理解，并支持自动化分析。
技术框架：ATLAS的整体架构包括轨迹抽象模块和自动机学习模块。首先，通过轨迹抽象提取代理与环境的交互信息，然后利用自动机学习技术生成有限状态模型，捕捉代理的行为策略。
关键创新：ATLAS的主要创新在于将轨迹抽象与自动机学习结合，能够从复杂的执行轨迹中提取出可解释的行为模型。这一方法与现有的单一评估方法有本质区别，提供了更深入的行为理解。
关键设计：在设计中，ATLAS采用了特定的参数设置以优化轨迹抽象效果，并使用适当的损失函数来指导自动机学习过程。此外，模型的结构设计考虑了如何有效捕捉代理的决策点和行为模式。
🖼️ 关键图片
📊 实验亮点
实验结果显示，ATLAS能够有效识别渗透测试中的高层次行为策略，相较于传统方法，提供了更深入的行为分析和解释能力。通过对12台易受攻击机器的案例研究，ATLAS成功揭示了复杂行为模式，提升了对代理行为的理解。
🎯 应用场景
ATLAS的研究成果在多个领域具有潜在应用价值，尤其是在软件测试和网络安全领域。通过提供可解释的行为模型，ATLAS能够帮助开发人员和安全专家更好地理解和分析代理的行为，从而提升系统的安全性和可靠性。此外，该方法也可用于其他需要理解复杂决策过程的智能系统。
📄 摘要（原文）
Large Language Model (LLM)-based agents are increasingly used for complex tasks such as software testing and cybersecurity assessment. While these agents demonstrate impressive capabilities, their behavior is difficult to understand, explain, and analyze. Existing evaluations focus mainly on task success and execution traces, offering limited insight into the strategies employed by the agent. We present ATLAS (Automata Learning for Agent Trajectory Analysis and Strategy Discovery), an approach for recovering interpretable behavioral models from agent trajectories. ATLAS combines trace abstraction with automata learning to infer finite-state models that capture observed agent-environment interaction strategies. These models provide human-interpretable insights and support automated analyses of recurring behaviors, decision points, successful task-completion paths, and failure loops. As a proof of concept, we apply ATLAS to trajectories generated by an LLM-based penetration-testing agent. The resulting models expose high-level behavioral strategies for exploiting vulnerable machines that are difficult to identify from raw execution traces alone. We discuss how learned behavioral models can support explainability, model-guided exploration, auditing, and analysis of agentic systems. We further demonstrate symbolic model-based knowledge transfer from powerful frontier models to compact language models. In addition, we show how model transformations can derive concise explanations of agent behavior in a penetration-testing case study comprising 12 vulnerable machines. ATLAS highlights a new opportunity for model-driven engineering: transforming agent trajectories into explicit behavioral models that enable systematic understanding and analysis of otherwise opaque AI agents.