Towards Responsible Generative AI: A Reference Architecture for Designing Foundation Model based Agents

📄 arXiv: 2311.13148v3 📥 PDF

作者: Qinghua Lu, Liming Zhu, Xiwei Xu, Zhenchang Xing, Stefan Harrer, Jon Whittle

分类: cs.AI, cs.SE

发布日期: 2023-11-22 (更新: 2024-04-03)

💡 一句话要点

提出参考架构以设计基础模型驱动的智能体

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 基础模型 智能体设计 责任性AI 任务协调 软件质量属性

📋 核心要点

  1. 现有基础模型驱动的智能体架构设计缺乏系统性探索，导致在安全性和责任性等软件质量属性上存在重要考虑。
  2. 本文提出了一种模式导向的参考架构，旨在为基础模型驱动的智能体设计提供指导，强调责任性和可追溯性。
  3. 通过将参考架构应用于两个实际智能体的架构，验证了其完整性和实用性，展示了其在设计中的有效性。

📝 摘要（中文）

基础模型，如大型语言模型（LLMs），因其理解和生成内容的能力而被广泛认可为变革性人工智能技术。基础模型驱动的智能体依赖于基础模型的能力，能够自主将目标分解为可管理的任务并协调任务执行。尽管在构建基础模型驱动的智能体方面投入了大量努力，但智能体的架构设计尚未得到系统性探索。本文提出了一种面向模式的参考架构，为设计基础模型驱动的智能体提供指导。我们通过将该参考架构映射到两个真实世界智能体的架构上，评估其完整性和实用性。

🔬 方法详解

问题定义：本文旨在解决基础模型驱动的智能体架构设计缺乏系统性的问题，尤其是在安全性和责任性等软件质量属性方面的挑战。

核心思路：提出一种模式导向的参考架构，旨在为设计基础模型驱动的智能体提供结构化的指导，确保其在执行任务时具备责任性和可追溯性。

技术框架：该架构包括多个主要模块，如目标分解、任务协调和执行监控，形成一个完整的智能体设计流程。每个模块都关注不同的功能需求，以确保智能体的高效性和安全性。

关键创新：最重要的创新点在于提出了一种系统化的参考架构，强调了责任性和安全性在智能体设计中的重要性，与现有方法相比，提供了更为全面的设计框架。

关键设计：在架构设计中，重点考虑了任务分解算法的选择、执行监控机制的实现，以及如何在设计中嵌入安全性和可追溯性等质量属性。

📊 实验亮点

实验结果表明，所提出的参考架构在两个真实世界智能体的应用中表现出良好的完整性和实用性，能够有效提升智能体在任务执行中的安全性和责任性，具体性能提升幅度未知。

🎯 应用场景

该研究的潜在应用领域包括自动化决策支持系统、智能助手和复杂任务规划等。通过提供系统化的设计框架，能够提升基础模型驱动智能体在实际应用中的可靠性和安全性，促进其在各行业的广泛应用。

📄 摘要（原文）

Foundation models, such as large language models (LLMs), have been widely recognised as transformative AI technologies due to their capabilities to understand and generate content, including plans with reasoning capabilities. Foundation model based agents derive their autonomy from the capabilities of foundation models, which enable them to autonomously break down a given goal into a set of manageable tasks and orchestrate task execution to meet the goal. Despite the huge efforts put into building foundation model based agents, the architecture design of the agents has not yet been systematically explored. Also, while there are significant benefits of using agents for planning and execution, there are serious considerations regarding responsible AI related software quality attributes, such as security and accountability. Therefore, this paper presents a pattern-oriented reference architecture that serves as guidance when designing foundation model based agents. We evaluate the completeness and utility of the proposed reference architecture by mapping it to the architecture of two real-world agents.