Eyes Closed, Safety On: Protecting Multimodal LLMs via Image-to-Text Transformation

📄 arXiv: 2403.09572v4 📥 PDF

作者: Yunhao Gou, Kai Chen, Zhili Liu, Lanqing Hong, Hang Xu, Zhenguo Li, Dit-Yan Yeung, James T. Kwok, Yu Zhang

分类: cs.CV

发布日期: 2024-03-14 (更新: 2024-10-15)

备注: ECCV2024 (Project Page: https://gyhdog99.github.io/projects/ecso/)

💡 一句话要点

提出ECSO以增强多模态大语言模型的安全性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态大语言模型 安全机制 图像到文本转换 越狱攻击 无训练保护方法

📋 核心要点

  1. 现有的多模态大语言模型在安全性方面存在明显不足，容易受到越狱攻击，安全机制容易被绕过。
  2. 本文提出ECSO方法，通过将不安全图像转化为文本，激活LLMs的内在安全机制，从而增强模型的安全性。
  3. 实验结果显示，ECSO在多个先进的MLLM上显著提升了安全性，例如在MM-SafetyBench上提升了37.6%。

📝 摘要（中文）

多模态大语言模型（MLLMs）展现了令人印象深刻的推理能力，但相较于传统的语言模型，它们更容易受到越狱攻击。尽管能够检测不安全的响应，现有的安全机制在引入图像特征后容易被绕过。为构建更为稳健的MLLMs，本文提出了一种新颖的无训练保护方法ECSO（Eyes Closed, Safety On），通过自适应地将不安全图像转化为文本，激活预对齐LLMs的内在安全机制。实验结果表明，ECSO显著提升了模型的安全性，同时在常见的MLLM基准测试中保持了良好的实用性。

🔬 方法详解

问题定义：本文旨在解决多模态大语言模型在面对越狱攻击时的安全性不足问题。现有方法在引入图像特征后，安全机制容易被绕过，导致模型输出不安全的响应。

核心思路：ECSO方法的核心思路是利用多模态大语言模型的内在安全意识，通过将不安全的图像自适应地转化为文本，激活预对齐的语言模型的安全机制，从而生成更安全的响应。

技术框架：ECSO的整体架构包括图像特征提取、图像到文本的转换以及安全机制的激活三个主要模块。首先提取图像特征，然后将其转化为文本，最后通过预对齐的语言模型生成安全的响应。

关键创新：ECSO的主要创新在于其无训练的保护方法，通过图像到文本的转换来增强模型的安全性，这与现有方法依赖于训练的方式有本质区别。

关键设计：在设计中，ECSO采用了自适应的图像特征转化策略，确保生成的文本能够有效激活LLMs的安全机制，同时保持生成响应的实用性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，ECSO在多个先进的多模态大语言模型上显著提升了安全性，例如在MM-SafetyBench上提升了37.6%，在VLSafe上提升了71.3%。同时，该方法在保持实用性方面表现稳定，显示出良好的综合性能。

🎯 应用场景

该研究的潜在应用领域包括安全敏感的多模态交互系统，如自动驾驶、医疗影像分析和社交媒体内容审核等。通过增强模型的安全性，ECSO能够有效降低不安全响应的风险，提升用户信任度，具有重要的实际价值和未来影响。

📄 摘要（原文）

Multimodal large language models (MLLMs) have shown impressive reasoning abilities. However, they are also more vulnerable to jailbreak attacks than their LLM predecessors. Although still capable of detecting the unsafe responses, we observe that safety mechanisms of the pre-aligned LLMs in MLLMs can be easily bypassed with the introduction of image features. To construct robust MLLMs, we propose ECSO (Eyes Closed, Safety On), a novel training-free protecting approach that exploits the inherent safety awareness of MLLMs, and generates safer responses via adaptively transforming unsafe images into texts to activate the intrinsic safety mechanism of pre-aligned LLMs in MLLMs. Experiments on five state-of-the-art (SoTA) MLLMs demonstrate that ECSO enhances model safety significantly (e.g.,, 37.6% improvement on the MM-SafetyBench (SD+OCR) and 71.3% on VLSafe with LLaVA-1.5-7B), while consistently maintaining utility results on common MLLM benchmarks. Furthermore, we show that ECSO can be used as a data engine to generate supervised-finetuning (SFT) data for MLLM alignment without extra human intervention.