SoK: Privacy Risks and Mitigations in Retrieval-Augmented Generation Systems

📄 arXiv: 2601.03979v1 📥 PDF

作者: Andreea-Elena Bodea, Stephen Meisenbacher, Alexandra Klymenko, Florian Matthes

分类: cs.CR, cs.CL

发布日期: 2026-01-07

备注: 17 pages, 3 figures, 5 tables. This work has been accepted for publication at the IEEE Conference on Secure and Trustworthy Machine Learning (SaTML 2026). The final version will be available on IEEE Xplore

💡 一句话要点

系统性分析RAG系统中隐私风险与缓解措施，构建风险分类与流程图谱。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 检索增强生成 隐私风险 大型语言模型 系统性综述 数据安全

📋 核心要点

  1. 现有RAG系统在利用领域知识库增强LLM能力的同时，面临着潜在的隐私泄露风险，需要系统性的分析和缓解。
  2. 本文通过系统性文献综述，对RAG系统中的隐私风险进行分类，并提出相应的缓解技术和评估策略。
  3. 研究构建了RAG隐私风险分类和RAG隐私流程图，为RAG隐私研究提供了系统性的框架和指导。

📝 摘要（中文）

大型语言模型（LLMs）在自然语言理解和生成方面的潜力日益增长，推动了人们对LLM用例的兴趣。检索增强生成（RAG）技术通过将LLM与领域知识库相结合，利用上下文和最新信息来增强对用户问题的响应生成，因此变得非常流行。RAG的普及引发了对数据隐私的担忧，特别是当利用包含潜在敏感信息的数据库时。大量研究探索了RAG系统中隐私风险的各个方面，从对抗性攻击到提出的缓解措施。本文旨在调查和统一这些工作，提出了一个简单的问题：RAG中的隐私风险是什么？如何衡量和缓解这些风险？为此，我们对解决隐私问题的RAG文献进行了系统的综述，并将我们的发现系统化为一套全面的隐私风险、缓解技术和评估策略。我们还补充了两个主要成果：RAG隐私风险分类和RAG隐私流程图。我们的工作通过首次系统化风险和缓解措施，以及揭示在缓解RAG系统中隐私风险和评估现有缓解措施的成熟度时需要考虑的重要因素，为RAG隐私研究做出了贡献。

🔬 方法详解

问题定义：论文旨在解决检索增强生成（RAG）系统中存在的隐私风险问题。现有方法在利用RAG提升LLM性能的同时，忽略了潜在的敏感信息泄露风险，缺乏对隐私风险的系统性分析和有效的缓解措施。因此，如何识别、衡量和缓解RAG系统中的隐私风险是本文要解决的核心问题。

核心思路：论文的核心思路是通过系统性的文献综述，对RAG系统中存在的各种隐私风险进行梳理和分类，并针对这些风险提出相应的缓解技术。通过构建RAG隐私风险分类和RAG隐私流程图，为研究人员和开发者提供一个全面的框架，以便更好地理解和应对RAG系统中的隐私挑战。

技术框架：论文采用系统性文献综述的方法，对现有关于RAG隐私风险的研究进行收集、整理和分析。主要包括以下几个阶段：1) 确定研究范围和关键词；2) 检索相关文献；3) 筛选文献并提取关键信息；4) 对隐私风险进行分类和归纳；5) 提出相应的缓解技术；6) 构建RAG隐私风险分类和RAG隐私流程图。

关键创新：论文的主要创新在于首次对RAG系统中的隐私风险进行了系统性的分类和归纳，并提出了相应的缓解技术。通过构建RAG隐私风险分类和RAG隐私流程图，为研究人员和开发者提供了一个全面的框架，以便更好地理解和应对RAG系统中的隐私挑战。此外，论文还对现有缓解措施的成熟度进行了评估，并提出了未来研究方向。

关键设计：论文的关键设计包括：1) RAG隐私风险分类，将隐私风险分为不同的类别，例如数据泄露、对抗性攻击等；2) RAG隐私流程图，描述了RAG系统中数据流动的各个阶段，并标识了每个阶段可能存在的隐私风险；3) 缓解技术，针对不同的隐私风险，提出了相应的缓解措施，例如差分隐私、访问控制等。

📊 实验亮点

本文通过系统性文献综述，首次对RAG系统中的隐私风险进行了全面的梳理和分类，并提出了相应的缓解技术。研究构建了RAG隐私风险分类和RAG隐私流程图，为RAG隐私研究提供了系统性的框架和指导，为后续研究奠定了基础。

🎯 应用场景

该研究成果可应用于各种需要利用RAG技术增强LLM能力的场景，例如智能客服、知识问答、文档检索等。通过识别和缓解RAG系统中的隐私风险，可以保护用户的敏感信息，提高系统的安全性和可信度，促进RAG技术的广泛应用。

📄 摘要（原文）

The continued promise of Large Language Models (LLMs), particularly in their natural language understanding and generation capabilities, has driven a rapidly increasing interest in identifying and developing LLM use cases. In an effort to complement the ingrained "knowledge" of LLMs, Retrieval-Augmented Generation (RAG) techniques have become widely popular. At its core, RAG involves the coupling of LLMs with domain-specific knowledge bases, whereby the generation of a response to a user question is augmented with contextual and up-to-date information. The proliferation of RAG has sparked concerns about data privacy, particularly with the inherent risks that arise when leveraging databases with potentially sensitive information. Numerous recent works have explored various aspects of privacy risks in RAG systems, from adversarial attacks to proposed mitigations. With the goal of surveying and unifying these works, we ask one simple question: What are the privacy risks in RAG, and how can they be measured and mitigated? To answer this question, we conduct a systematic literature review of RAG works addressing privacy, and we systematize our findings into a comprehensive set of privacy risks, mitigation techniques, and evaluation strategies. We supplement these findings with two primary artifacts: a Taxonomy of RAG Privacy Risks and a RAG Privacy Process Diagram. Our work contributes to the study of privacy in RAG not only by conducting the first systematization of risks and mitigations, but also by uncovering important considerations when mitigating privacy risks in RAG systems and assessing the current maturity of proposed mitigations.