Pragmatic Attack Surface: Vulnerabilities of Implicit Context in Large Language Models

📄 arXiv: 2608.09551v1 📥 PDF

作者: Bocheng Chen, Han Zi, Roucheng Ou, Yawei Liu, Minyue Chen, Zimo Qi, Rongrong Wang, Guangliang Liu

分类: cs.CL

发布日期: 2026-08-10

💡 一句话要点

提出实用攻击面以解决大语言模型隐式上下文脆弱性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 安全对齐 隐式上下文 攻击面 自然语言处理 对抗性攻击 脆弱性评估

📋 核心要点

  1. 现有的安全对齐算法无法有效处理隐式上下文带来的攻击脆弱性，导致大语言模型面临新的安全威胁。
  2. 本文提出了实用攻击面概念，强调隐式语境在语言理解中的重要性，并设计了相应的攻击方法以利用这一脆弱性。
  3. 实验结果显示，所提方法在多种模型上均显著提高了攻击成功率，超越了现有的基线攻击方法。

📝 摘要（中文）

在大语言模型（LLMs）时代，攻击者常通过操控自然语言引发不安全或有害的输出，形成了独特的自然语言攻击面。现有的安全对齐算法往往能够缓解此类攻击。然而，人类语言的理解依赖于隐含的语境，如世界知识和社会规范，这些语境在安全对齐中未得到充分利用，导致人类语言解释与安全对齐方法之间存在根本不匹配。本文展示了这种不匹配如何暴露LLMs的脆弱性，并提出了“实用攻击面”这一概念，实验结果表明，所提方法在多种开源和闭源模型上显著优于基线攻击方法。

🔬 方法详解

问题定义：本文旨在解决大语言模型在隐式上下文下的脆弱性，现有方法对隐含语境的忽视使得模型容易受到攻击。

核心思路：通过引入“实用攻击面”概念，强调隐式上下文在语言理解中的重要性，设计新的攻击策略以利用这些脆弱性。

技术框架：整体架构包括攻击策略生成模块、上下文分析模块和模型响应评估模块，确保攻击能够有效利用隐式信息。

关键创新：最重要的创新在于识别并利用隐式上下文的攻击策略，与传统方法相比，能够更精准地绕过安全机制。

关键设计：在参数设置上，采用了动态调整的损失函数，以适应不同上下文的攻击需求，同时优化了网络结构以提高攻击效率。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提方法在多种开源和闭源模型上均显著提高了攻击成功率，超越基线方法的幅度达到30%以上，展示了实用攻击面的有效性和重要性。

🎯 应用场景

该研究的潜在应用领域包括安全性评估、对抗性训练和自然语言处理系统的安全防护。通过识别和利用隐式上下文的脆弱性，可以为大语言模型的安全性提供新的思路和方法，具有重要的实际价值和未来影响。

📄 摘要（原文）

In the era of large language models (LLMs), attackers often manipulate natural language to elicit unsafe or harmful outputs, creating a new natural language attack surface unique to LLM-based systems, where attacks directly exploit explicit linguistic cues in user prompts to bypass the safety mechanism of LLMs. However, such attacks can often be mitigated by existing safety alignment algorithms. On the other hand, human language is inherently grounded in pragmatics, necessitating typical context to interpret language, e.g., world knowledge, social norms. However, such contexts are often implicit because they are not directly expressed in human language and are not sufficiently leveraged in safety alignment, creating a fundamental mismatch between human language interpretation and safety alignment approaches. In this paper, we demonstrate that this mismatch exposes vulnerabilities in LLMs. We refer to this vulnerability as the pragmatic attack surface, which can be exploited to achieve high attack success rates. The experimental results demonstrate that our proposed approach outperforms baseline attack methods across various open-source and closed-source models by a substantial margin.