Lifecycle-Aware Dynamic Analysis for Secure ML Model Execution

📄 arXiv: 2606.19023v1 📥 PDF

作者: Gabriele Digregorio, Marco Di Gennaro, Francesco Pastore, Stefano Zanero, Stefano Longari, Michele Carminati

分类: cs.CR, cs.LG

发布日期: 2026-06-17

💡 一句话要点

提出生命周期感知动态分析以保障机器学习模型执行安全

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 机器学习安全 动态分析 生命周期感知 模型执行 攻击检测 误报率 模型扫描

📋 核心要点

  1. 现有的模型扫描方法主要依赖静态规则，无法有效检测新型攻击路径，存在显著的安全隐患。
  2. 本文提出了一种动态生命周期感知的方法，通过分析攻击对主机系统的影响来保障ML模型的安全。
  3. 实验结果显示，Re-Moat在检测攻击类别方面表现优异，误报率接近零，显著优于现有的模型扫描解决方案。

📝 摘要（中文）

随着对预训练机器学习（ML）模型的依赖增加，新型攻击面随之出现。现有的模型扫描解决方案主要依赖静态、特定格式的规则或已知攻击特征，限制了其在不同框架间的泛化能力和对新型攻击路径的检测能力。本文提出了一种解决方案，关注攻击对执行模型的主机系统的影响，基于对ML模型执行的基础直觉，设计了Moat，一个生命周期感知的动态分析方法，并在Re-Moat中实现。通过对多个ML框架的77,974个真实模型进行评估，结果表明该方法能够检测所有评估的攻击类别，同时保持接近零的误报率，验证了我们的直觉并推动了动态分析在保障ML模型执行安全中的应用。

🔬 方法详解

问题定义：本文旨在解决现有机器学习模型执行安全性不足的问题，特别是现有方法无法有效检测新型攻击路径的痛点。

核心思路：提出了一种基于生命周期感知的动态分析方法，关注攻击对主机系统的影响，利用模型执行的结构化和可预测性进行安全检测。

技术框架：整体架构包括模型生命周期的各个阶段，动态监控模型与主机系统的交互，主要模块包括攻击检测、数据收集和分析引擎。

关键创新：最重要的创新在于将生命周期感知与动态分析结合，能够全面检测攻击类别并有效降低误报率，与传统静态分析方法本质不同。

关键设计：在设计中，采用了特定的参数设置和动态监控机制，确保在各个生命周期阶段都能有效捕捉到潜在的攻击行为。具体的损失函数和网络结构细节在论文中进行了详细描述。

📊 实验亮点

实验结果表明，Re-Moat能够检测所有评估的攻击类别，且误报率接近零，显著优于现有的模型扫描解决方案。这一成果验证了生命周期感知动态分析的有效性，推动了机器学习模型安全研究的发展。

🎯 应用场景

该研究的潜在应用领域包括云计算平台、边缘计算设备及任何依赖机器学习模型的系统。通过提升模型执行的安全性，能够有效防止恶意攻击，保护用户数据和系统的完整性，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

The growing reliance on pre-trained Machine Learning (ML) models has introduced new attack surfaces. Recent vulnerabilities demonstrate that malicious behavior can be embedded within model artifacts, often bypassing existing defenses. Current model-scanning solutions primarily rely on static, format-specific rules or known attack signatures, which limit their ability to generalize across frameworks and to detect novel exploitation paths. In contrast, we propose a solution that focuses on the effects an attack has on the host system executing the model and builds on foundational intuitions about ML model execution. In particular, we observe that ML models operate within well-defined lifecycle phases and that, within each phase, interactions with the host system are highly structured and predictable. We translate these intuitions into Moat, a dynamic lifecycle-aware approach for securing ML model execution, and instantiate this design in Re-Moat, our reference implementation. We evaluate Re-Moat across multiple ML frameworks using 77,974 real-world model artifacts from the Hugging Face Hub, 31 Proofs-of-Concept (PoCs) from CVEs, and 334 models from a state-of-the-art dataset, and compare it against state-of-the-art model-scanning solutions. Our results show that our approach detects all evaluated attack classes while maintaining a close-to-zero false-positive rate, validating our intuitions and motivating dynamic analysis for securing ML model execution.