When Safety Checks Become Privacy Risks: A Privacy-Preserving Paradigm for LLM Agent Safety Auditing
作者: Yixiang Luo, Ziheng Ma, Ke Chang, Jian Wang, Jiqiang Liu
分类: cs.CR, cs.AI
发布日期: 2026-10-30
备注: 12 pages, 2 figures, 10 tables
💡 一句话要点
提出隐私保护审计范式以解决LLM代理安全性问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 隐私保护 安全审计 大型语言模型 加密计算 审计框架 用户数据保护 智能助手
📋 核心要点
- 现有的安全审计方法在保护用户隐私方面存在挑战，可能导致敏感信息泄露。
- 本文提出了一种隐私保护的安全审计范式，通过分离审计计算与明文访问权限来解决隐私风险。
- 在SealCall框架中，经过评估，该方法在1,252个候选中实现了0.840的平均F1分数，且审计决策保持完整。
📝 摘要（中文）
大型语言模型代理通过工具调用与在线服务交互，这可能涉及访问私密数据或执行敏感操作。现有的安全审计方法在将任务描述、调用参数和交互历史发送给外部审计者时，可能会暴露用户敏感信息。本文提出了一种隐私保护的安全审计范式，通过将审计计算与明文访问和执行权限分离，构建了一个基于三域审计模型的框架。该框架结合了可信表示构建、加密审计计算和可信决策与执行，确保审计输入在半诚实审计者面前的安全性。我们在SealCall框架中实现了这一范式，评估结果显示其在1,252个公共二进制候选中，平均F1分数达到0.840，且在所有测量案例中保持了明文审计决策的完整性。
🔬 方法详解
问题定义：本文旨在解决大型语言模型代理在执行工具调用时可能暴露用户敏感信息的问题。现有方法在审计过程中需要将明文数据发送给外部审计者，存在隐私泄露的风险。
核心思路：提出了一种隐私保护的审计范式，通过将审计计算与明文访问和执行权限分离，确保审计过程中的用户信息安全。该设计允许在不暴露敏感数据的情况下进行有效的审计。
技术框架：该框架基于三域审计模型，主要模块包括可信表示构建、加密审计计算和可信决策与执行。通过明确的接口连接这些模块，支持不同的表示和评分方法。
关键创新：最重要的创新在于加密计算保护审计输入，确保即使在半诚实审计者的情况下，用户信息也不会被泄露。这与现有方法的根本区别在于审计过程中的隐私保护机制。
关键设计：在SealCall框架中，采用CKKS加密技术进行相似性计算，确保审计输入的安全性。同时，设计了执行控制机制，确保工具调用的审计和执行过程相互绑定。
🖼️ 关键图片
📊 实验亮点
实验结果显示，SealCall框架在1,252个公共二进制候选中实现了平均F1分数0.840，表现出色。同时，所有测量案例中均保持了明文审计决策的完整性，表明该方法在隐私保护与审计效果之间取得了良好的平衡。
🎯 应用场景
该研究的潜在应用领域包括在线服务的安全审计、智能助手的隐私保护以及任何需要在保护用户隐私的同时进行安全审计的场景。其实际价值在于能够有效降低用户数据泄露的风险，提升用户对智能系统的信任度，未来可能推动隐私保护技术的广泛应用。
📄 摘要（原文）
Large language model agents interact with online services through tool calls that may access private data or perform sensitive actions. Specialized providers can supply and maintain pre-execution safety auditing capabilities for agent operators. However, sending task descriptions, call arguments, and interaction histories to an external auditor may expose sensitive user information. In this work, we propose a paradigm for privacy-preserving safety auditing that separates delegated audit computation from plaintext access and execution authority. Grounded in a three-domain auditing model, the paradigm connects trusted representation construction, encrypted audit computation, and trusted decision and execution through explicit interfaces. These interfaces accommodate alternative representations and scorers, while encrypted computation protects audit inputs from a semi-honest auditor. We instantiate this paradigm in SealCall, a framework combining learned audit representations, CKKS-based encrypted similarity computation, and execution control bound to audited tool calls. Evaluated on 1,252 public binary candidates, SealCall achieves a mean F1 score of 0.840 under grouped nested evaluation, while preserving plaintext audit decisions in all measured cases. A representative configuration completes each encrypted scoring operation in 0.176 s.