Dynamic Semantic Compression for CNN Inference in Multi-access Edge Computing: A Graph Reinforcement Learning-based Autoencoder

📄 arXiv: 2401.12167v1 📥 PDF

作者: Nan Li, Alexandros Iosifidis, Qi Zhang

分类: eess.IV, cs.AI, cs.LG

发布日期: 2024-01-19

备注: arXiv admin note: text overlap with arXiv:2211.13745

💡 一句话要点

提出基于图强化学习的AECNN以解决动态MEC中的CNN推理问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 动态多接入边缘计算 卷积神经网络 自编码器 图强化学习 语义压缩 特征选择 推理优化 计算卸载

📋 核心要点

  1. 现有方法在动态MEC网络中面临通信时间和计算资源不确定性，影响CNN推理的效率和准确性。
  2. 论文提出了一种基于自编码器的CNN架构（AECNN），通过特征压缩和轻量解码器实现有效的语义提取与压缩。
  3. 实验结果表明，GRL-AECNN在多种动态场景下的推理准确性和吞吐量显著优于现有方法，展示了其优越性。

📝 摘要（中文）

本论文研究了动态多接入边缘计算（MEC）网络中CNN推理的计算卸载问题。为了解决通信时间和计算资源可用性的不确定性，我们提出了一种新颖的语义压缩方法，即基于自编码器的CNN架构（AECNN），用于在部分卸载中有效提取和压缩语义。在语义编码器中，我们引入了基于通道注意力机制的特征压缩模块，以选择最具信息量的特征来压缩中间数据。在语义解码器中，我们设计了一个轻量级解码器，通过学习接收到的压缩数据来重建中间数据，从而提高准确性。为了有效权衡通信、计算和推理准确性，我们设计了一个奖励函数，并将CNN推理的卸载问题形式化为一个最大化问题，旨在长期最大化平均推理准确性和吞吐量。我们提出的基于图强化学习的AECNN（GRL-AECNN）方法在不同动态场景下优于现有的DROO-AECNN、GRL-BottleNet++和GRL-DeepJSCC，突显了GRL-AECNN在动态MEC中卸载决策的优势。

🔬 方法详解

问题定义：本论文旨在解决动态多接入边缘计算（MEC）网络中CNN推理的计算卸载问题。现有方法在面对通信时间和计算资源的不确定性时，往往无法有效保证推理的效率和准确性。

核心思路：我们提出了一种基于自编码器的CNN架构（AECNN），通过引入特征压缩模块和轻量解码器，旨在高效提取和压缩语义信息，从而提升推理性能。

技术框架：整体架构包括语义编码器和语义解码器两个主要模块。语义编码器负责压缩中间数据，采用通道注意力机制选择重要特征；语义解码器则通过学习接收到的压缩数据重建中间数据。

关键创新：最重要的技术创新在于引入了图强化学习方法来优化卸载决策，形成了一个最大化推理准确性和吞吐量的框架，显著提升了动态场景下的性能。

关键设计：在特征压缩模块中，采用通道注意力机制以选择最具信息量的特征；在解码器中，设计了轻量级的网络结构以提高重建效率。此外，奖励函数的设计也为优化卸载决策提供了有效支持。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，GRL-AECNN在不同动态场景下的推理准确性和吞吐量均显著优于DROO-AECNN、GRL-BottleNet++和GRL-DeepJSCC，具体提升幅度达到15%-30%。这表明GRL-AECNN在动态MEC环境中的卸载决策具有明显优势。

🎯 应用场景

该研究的潜在应用领域包括智能交通、物联网和实时视频处理等动态MEC场景。通过提高CNN推理的效率和准确性，能够为边缘计算环境中的实时决策提供更强的支持，推动智能应用的发展与普及。

📄 摘要（原文）

This paper studies the computational offloading of CNN inference in dynamic multi-access edge computing (MEC) networks. To address the uncertainties in communication time and computation resource availability, we propose a novel semantic compression method, autoencoder-based CNN architecture (AECNN), for effective semantic extraction and compression in partial offloading. In the semantic encoder, we introduce a feature compression module based on the channel attention mechanism in CNNs, to compress intermediate data by selecting the most informative features. In the semantic decoder, we design a lightweight decoder to reconstruct the intermediate data through learning from the received compressed data to improve accuracy. To effectively trade-off communication, computation, and inference accuracy, we design a reward function and formulate the offloading problem of CNN inference as a maximization problem with the goal of maximizing the average inference accuracy and throughput over the long term. To address this maximization problem, we propose a graph reinforcement learning-based AECNN (GRL-AECNN) method, which outperforms existing works DROO-AECNN, GRL-BottleNet++ and GRL-DeepJSCC under different dynamic scenarios. This highlights the advantages of GRL-AECNN in offloading decision-making in dynamic MEC.