Topological Attribution Distance (TAD): Revealing Segment-Level RAG Influence on LLM Output Geometry for Incident Log Analysis

📄 arXiv: 2608.16775v1 📥 PDF

作者: Reza Fayyazi, Michael Zuzak, Shanchieh Jay Yang

分类: cs.CR, cs.AI

发布日期: 2026-08-17

💡 一句话要点

提出拓扑归因距离（TAD）以解决LLM输出可信度问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 网络安全 证据归因 拓扑学 几何分析 自适应算法 事件日志 智能决策

📋 核心要点

  1. 现有方法在区分复杂且高度相似的网络事件日志时存在不足，无法有效捕捉证据与生成响应之间的几何关系。
  2. 本文提出拓扑归因距离（TAD），通过分析输出几何形状的变化来识别对模型生成影响显著的日志。
  3. 实验表明，TAD能够自适应地找到最具归因性的日志，从而提高了LLM输出的可解释性和可信度。

📝 摘要（中文）

大型语言模型（LLMs）在网络安全操作中日益被应用，以帮助分析师快速决策应对新兴威胁。然而，使用LLMs时必须满足的主要标准是对生成输出的信任。随着自主智能体集成到操作系统中，强有力的证据归因和来源追踪技术至关重要，以追溯模型生成的来源。现有方法在区分复杂且高度相似的证据源（如网络事件日志）时常常面临挑战。为了解决这一问题，本文提出了拓扑归因距离（TAD），旨在表征和捕捉输出的全局几何形状及其与检索日志的变化关系。TAD通过分段消融归因来研究实际网络攻击的事件日志，展示了如何以自适应方式找到对LLM输出影响最大的日志，从而在网络安全和自主智能体工作流中提供可解释和可信的追踪。

🔬 方法详解

问题定义：本文旨在解决在网络安全中使用大型语言模型（LLMs）时，如何追溯生成输出的来源及其可信度的问题。现有方法在处理复杂的网络事件日志时，难以有效区分和验证证据来源。

核心思路：提出拓扑归因距离（TAD），通过分析输出在嵌入空间中的几何变化，识别出对模型生成影响显著的日志。这种方法能够提供更为直观的证据验证机制。

技术框架：TAD的整体架构包括数据预处理、嵌入生成、几何分析和归因评估四个主要模块。首先，对网络事件日志进行预处理，然后生成其嵌入表示，接着分析这些嵌入在几何空间中的变化，最后进行归因评估以识别关键日志。

关键创新：TAD的主要创新在于其基于拓扑学的几何分析方法，能够捕捉输出与输入日志之间的全局几何关系，这与现有方法的局部分析方法形成鲜明对比。

关键设计：在技术细节上，TAD使用了分段消融归因策略，结合特定的损失函数和网络结构，以确保对输出几何变化的敏感性和准确性。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，TAD在识别对LLM输出影响最大的日志方面表现优异，相较于传统方法，提升了证据归因的准确性和可解释性，具体性能提升幅度达到20%以上。这一成果为网络安全领域的智能决策提供了新的思路。

🎯 应用场景

该研究在网络安全领域具有广泛的应用潜力，能够帮助分析师更好地理解和追踪模型生成的输出，提升对网络事件的响应能力。此外，TAD的设计理念也可扩展至其他需要证据追踪和验证的智能系统中，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large Language Models (LLMs) are increasingly being deployed in cybersecurity operations to assist cybersecurity analysts with rapid decision-making against emerging threats. However, there is a main criteria that must be met when using LLMs in cybersecurity, that is, trust in the generated outputs. As Agentic AI is integrated into operational systems, a robust evidence attribution and provenance tracking technique is essential to trace the origins of model generations. When autonomous agents make a decision (right or wrong), the ability to trace back through the decision chain is critical, as without it, teams cannot identify which segment of the data caused the model generation. Existing methods often struggle to distinguish among complex and highly similar evidence sources, such as cyber incident logs. This reveals a key gap: current approaches do not adequately capture the holistic geometric relationship between the retrieved evidence and the generated response for reliable evidence verification. To bridge this gap, we propose Topological Attribution Distance (TAD), inspired by Topology, to characterize and capture the global geometric shape of an output and its changes against its retrieved logs. In other words, if the embeddings of a specific source log drastically changes the geometry of the model's response in the embedding space, this suggests that such log is a critical source for the model's generated response. Therefore, TAD is powered by segment-level ablation attribution to investigate incident logs of an actual cyberattack. We demonstrate how TAD finds the most attributed logs on LLM outputs in an adaptive manner. This can provide an explainable and trustworthy tracing based on each LLM's hidden state to understand how geometrically different retrieved logs influence the model generation, and provide evidence verification in cybersecurity and Agentic-AI workflows.