Differentially Private Synthetic Data via Foundation Model APIs 2: Text

📄 arXiv: 2403.01749v2 📥 PDF

作者: Chulin Xie, Zinan Lin, Arturs Backurs, Sivakanth Gopi, Da Yu, Huseyin A Inan, Harsha Nori, Haotian Jiang, Huishuai Zhang, Yin Tat Lee, Bo Li, Sergey Yekhanin

分类: cs.CL

发布日期: 2024-03-04 (更新: 2024-07-23)

备注: ICML'24 Spotlight

🔗 代码/项目: GITHUB

💡 一句话要点

提出Aug-PE算法以解决文本数据的差分隐私合成问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 差分隐私 合成数据 文本生成 大型语言模型 隐私保护 API访问 机器学习

📋 核心要点

  1. 现有方法需要对大型语言模型进行差分隐私微调，无法在专有模型上实施，且计算资源消耗巨大。
  2. 本文提出的Aug-PE算法通过API访问大型语言模型，生成差分隐私合成文本，无需任何模型训练。
  3. 实验结果显示，Aug-PE生成的合成文本在效用上与最先进的微调基线相当，验证了该方法的有效性。

📝 摘要（中文）

文本数据因其在机器学习中的重要性而变得极为珍贵。然而，许多高质量的文本数据因隐私问题无法自由共享。生成具有差分隐私（DP）保证的合成文本数据是一种可行的解决方案。现有方法需要对大型语言模型（LLMs）进行DP微调，这在专有模型（如GPT-3.5）上不可行，并且对开源模型也需要大量计算资源。Lin等人（2024）提出的Private Evolution（PE）算法仅通过API访问生成DP合成图像。本文提出了一种增强的PE算法，称为Aug-PE，适用于文本的复杂场景。我们通过API访问LLM生成DP合成文本，无需模型训练。实验结果表明，Aug-PE生成的DP合成文本在效用上与最先进的DP微调基线相当，展示了仅依赖LLM的API访问生成高质量DP合成文本的可行性。

🔬 方法详解

问题定义：本文旨在解决如何在不进行模型训练的情况下，利用API生成具有差分隐私保证的合成文本数据。现有方法在专有大型语言模型上不可行，且对开源模型的计算需求高，限制了其应用。

核心思路：Aug-PE算法通过API访问大型语言模型，直接生成差分隐私合成文本，避免了传统方法中的微调过程，从而降低了计算资源的需求。

技术框架：该方法的整体架构包括API调用模块、文本生成模块和隐私保护模块。API调用模块负责与大型语言模型进行交互，文本生成模块负责生成合成文本，隐私保护模块确保生成文本满足差分隐私要求。

关键创新：Aug-PE的主要创新在于其能够在不进行模型训练的情况下，利用API生成高质量的差分隐私合成文本。这与传统方法的本质区别在于不再依赖于对模型的微调。

关键设计：在设计中，Aug-PE采用了特定的参数设置以优化生成文本的质量，同时确保满足差分隐私的要求。具体的损失函数和网络结构细节在论文中进行了详细描述。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Aug-PE生成的差分隐私合成文本在效用上与最先进的微调基线相当，展示了该方法的有效性和实用性。具体而言，Aug-PE在三个基准数据集上的表现与现有方法相比，达到了相似的性能水平，证明了其在生成高质量合成文本中的潜力。

🎯 应用场景

该研究的潜在应用领域包括医疗、金融和社交媒体等需要保护用户隐私的场景。通过生成差分隐私合成文本，企业和研究机构可以在不泄露敏感信息的情况下，利用数据进行分析和模型训练，推动隐私保护技术的发展。

📄 摘要（原文）

Text data has become extremely valuable due to the emergence of machine learning algorithms that learn from it. A lot of high-quality text data generated in the real world is private and therefore cannot be shared or used freely due to privacy concerns. Generating synthetic replicas of private text data with a formal privacy guarantee, i.e., differential privacy (DP), offers a promising and scalable solution. However, existing methods necessitate DP finetuning of large language models (LLMs) on private data to generate DP synthetic data. This approach is not viable for proprietary LLMs (e.g., GPT-3.5) and also demands considerable computational resources for open-source LLMs. Lin et al. (2024) recently introduced the Private Evolution (PE) algorithm to generate DP synthetic images with only API access to diffusion models. In this work, we propose an augmented PE algorithm, named Aug-PE, that applies to the complex setting of text. We use API access to an LLM and generate DP synthetic text without any model training. We conduct comprehensive experiments on three benchmark datasets. Our results demonstrate that Aug-PE produces DP synthetic text that yields competitive utility with the SOTA DP finetuning baselines. This underscores the feasibility of relying solely on API access of LLMs to produce high-quality DP synthetic texts, thereby facilitating more accessible routes to privacy-preserving LLM applications. Our code and data are available at https://github.com/AI-secure/aug-pe.