Rapid Optimization for Jailbreaking LLMs via Subconscious Exploitation and Echopraxia
作者: Guangyu Shen, Siyuan Cheng, Kaiyuan Zhang, Guanhong Tao, Shengwei An, Lu Yan, Zhuo Zhang, Shiqing Ma, Xiangyu Zhang
分类: cs.AI, cs.CL, cs.CR
发布日期: 2024-02-08
🔗 代码/项目: GITHUB
💡 一句话要点
提出RIPPLE以解决LLMs安全性问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 越狱提示 安全性 潜意识 模仿行为 优化方法 攻击成功率 隐蔽性
📋 核心要点
- 现有方法在生成多样、高效和强大的越狱提示方面面临挑战，尤其是在LLMs的离散性和规模上。
- RIPPLE方法通过潜意识和模仿行为的心理学概念，优化越狱提示的生成过程，提升攻击成功率。
- 实验结果显示，RIPPLE在多个LLM上实现了91.5%的攻击成功率，显著优于现有方法，并减少了计算开销。
📝 摘要（中文）
大型语言模型（LLMs）在各个领域的广泛应用改变了人类生活，其卓越的推理和理解能力引发了安全性关注。尽管已有大量努力将LLMs与人类道德原则对齐，但研究表明，已对齐的LLMs仍易受到特定的越狱提示影响，绕过安全措施并引发暴力和有害内容。本文提出了一种名为RIPPLE（通过潜意识利用和模仿行为的快速优化）的方法，灵感来源于潜意识和模仿行为这两个心理学概念。通过对6个开源LLMs和4个商业LLM API的评估，RIPPLE的平均攻击成功率达到91.5%，比现有五种方法提高了最多47.0%，并且在开销上减少了8倍，显示出显著的可转移性和隐蔽性，成功规避了现有的检测机制。
🔬 方法详解
问题定义：本文旨在解决大型语言模型（LLMs）在安全性方面的脆弱性，尤其是如何生成有效的越狱提示以绕过安全措施。现有方法在生成多样化和有效提示方面存在显著不足，难以应对LLMs的复杂性和规模。
核心思路：RIPPLE方法的核心在于利用潜意识和模仿行为的心理学原理，自动生成高效的越狱提示。通过这种方式，模型能够在无意识的状态下优化提示，从而提高攻击的成功率和隐蔽性。
技术框架：RIPPLE的整体架构包括提示生成模块、优化模块和评估模块。提示生成模块负责初步生成越狱提示，优化模块则通过潜意识和模仿行为的机制对提示进行快速优化，最后评估模块用于验证提示的有效性和成功率。
关键创新：RIPPLE的主要创新在于引入心理学概念来优化越狱提示的生成过程，这与现有方法的直接生成策略有本质区别。通过潜意识的利用，RIPPLE能够在更短时间内生成更有效的提示。
关键设计：在参数设置上，RIPPLE采用了动态调整的学习率和特定的损失函数，以确保优化过程的高效性。此外，网络结构上结合了多层次的提示生成机制，以增强提示的多样性和有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，RIPPLE在6个开源LLMs和4个商业LLM API上实现了91.5%的平均攻击成功率，较现有五种方法提升最多47.0%，并且在计算开销上减少了8倍，展现出显著的转移性和隐蔽性。
🎯 应用场景
该研究的潜在应用领域包括安全审计、内容过滤和AI伦理等。通过优化越狱提示的生成，RIPPLE可以帮助开发更安全的LLMs，确保其在敏感任务中的可靠性和合规性，具有重要的实际价值和未来影响。
📄 摘要（原文）
Large Language Models (LLMs) have become prevalent across diverse sectors, transforming human life with their extraordinary reasoning and comprehension abilities. As they find increased use in sensitive tasks, safety concerns have gained widespread attention. Extensive efforts have been dedicated to aligning LLMs with human moral principles to ensure their safe deployment. Despite their potential, recent research indicates aligned LLMs are prone to specialized jailbreaking prompts that bypass safety measures to elicit violent and harmful content. The intrinsic discrete nature and substantial scale of contemporary LLMs pose significant challenges in automatically generating diverse, efficient, and potent jailbreaking prompts, representing a continuous obstacle. In this paper, we introduce RIPPLE (Rapid Optimization via Subconscious Exploitation and Echopraxia), a novel optimization-based method inspired by two psychological concepts: subconsciousness and echopraxia, which describe the processes of the mind that occur without conscious awareness and the involuntary mimicry of actions, respectively. Evaluations across 6 open-source LLMs and 4 commercial LLM APIs show RIPPLE achieves an average Attack Success Rate of 91.5\%, outperforming five current methods by up to 47.0\% with an 8x reduction in overhead. Furthermore, it displays significant transferability and stealth, successfully evading established detection mechanisms. The code of our work is available at \url{https://github.com/SolidShen/RIPPLE_official/tree/official}