Shift Aware Transfer Learning with Adaptive Dual-Encoder Fusion for PM Forecasting in Data-Limited Environments

📄 arXiv: 2608.14456v1 📥 PDF

作者: Shahab Band, Hamed Mohammadi

分类: cs.AI

发布日期: 2026-08-14

💡 一句话要点

提出基于双编码器融合的转移学习框架以改善PM2.5短期预测

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 转移学习 双编码器 PM2.5预测 环境监测 数据有限

📋 核心要点

  1. 核心问题：现有方法在目标领域数据有限时，难以有效捕捉PM2.5的复杂时间动态，导致预测性能下降。
  2. 方法要点：提出了一种转移意识的双编码器转移框架，结合源领域知识与目标特定的表示学习，以提高预测准确性。
  3. 实验或效果：实验结果显示，冻结源编码器的模型在多个基线中表现最佳，MSE降低约7.1%，MAE和R²指标均有所提升。

📝 摘要（中文）

短期预测细颗粒物（PM2.5）在目标领域观察数据有限且源领域与目标领域统计特性差异时仍然困难。在这些情况下，仅基于本地数据训练的模型可能无法捕捉复杂的时间动态，而直接的转移学习可能导致负迁移。本研究开发了一种具有转移意识的双编码器转移框架，将源领域知识与目标特定表示学习相结合。通过对77个台湾站点的两年小时观测数据进行适应和评估，结果表明，冻结源编码器的双编码器模型在四个基线中表现最佳，MSE为21.8960，MAE为3.1597，R²为0.8725。SHAP分析表明，预测主要受近期PM2.5观测值和与污染物运输及扩散相关的气象变量驱动。

🔬 方法详解

问题定义：本研究旨在解决在数据有限的环境中，PM2.5短期预测的准确性问题。现有方法在源领域与目标领域统计特性差异较大时，容易导致负迁移，影响预测效果。

核心思路：论文提出了一种转移意识的双编码器转移框架，旨在通过结合源领域的知识与目标领域的特定表示学习，来提高模型在目标领域的预测能力。通过这种方式，模型能够更好地适应目标领域的特性。

技术框架：整体架构包括两个主要模块：源编码器和目标编码器。源编码器使用来自10个美国监测地点的小时观测数据进行预训练，而目标编码器则根据77个台湾站点的两年小时观测数据进行适应和评估。模型采用了时间序列的训练-验证-测试协议。

关键创新：最重要的技术创新在于双编码器的设计，使得源编码器知识能够在目标领域进行有效转移，同时保留目标特定的信息。这种设计与传统的单一编码器方法本质上不同，能够有效减少负迁移的风险。

关键设计：在模型设计中，采用了冻结源编码器的策略，并通过适应源编码器来优化整体性能。损失函数的选择和网络结构的设计均考虑了目标领域的特性，确保模型能够在目标数据上进行有效学习。实验结果表明，去除台湾特定分支会导致性能显著下降。通过SHAP分析，确认了PM2.5观测值和气象变量在预测中的重要性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，冻结源编码器的双编码器模型在四个基线中表现最佳，MSE为21.8960，MAE为3.1597，R²为0.8725。相较于TL-v1和TL-v2，MSE分别降低了约7.1%和4.1%。此外，允许源编码器适应的模型取得了最佳结果，MSE为21.6575，MAE为3.1383，R²为0.8739。

🎯 应用场景

该研究的潜在应用领域包括环境监测、空气质量预测和公共健康管理等。通过提高PM2.5的预测准确性，能够为政策制定者和公众提供更可靠的空气质量信息，从而有效应对空气污染问题，改善人们的生活质量。未来，该方法还可以扩展到其他污染物的预测和监测中，具有广泛的实际价值。

📄 摘要（原文）

Short-horizon forecasting of fine particulate matter (PM2.5) remains difficult when observations from the target domain are limited and the statistical properties of the source and target domains differ. In these settings, models trained only on local data may not capture complex temporal dynamics, while direct transfer learning can result in negative transfer. This study develops a shift-aware dual-encoder transfer framework that combines source-domain knowledge with target-specific representation learning. The source encoder was pretrained using hourly observations from 10 U.S. monitoring locations. The framework was then adapted and evaluated using two years of hourly observations from 77 stations in Taiwan under a chronological train-validation-test protocol. Among the four principal baselines, the frozen-source dual-encoder model achieved the best performance, with MSE = 21.8960, MAE = 3.1597, and R^2 = 0.8725. This corresponds to an MSE reduction of approximately 7.1% relative to TL-v1 and 4.1% relative to TL-v2. The ablation analysis showed that removing the Taiwan-specific branch caused the largest decline in performance. Allowing the source encoder to adapt produced the best overall result, with MSE = 21.6575, MAE = 3.1383, and R^2 = 0.8739. SHAP analysis indicated that predictions were driven mainly by recent PM2.5 observations and meteorological variables related to pollutant transport and dispersion. These results suggest that source-domain knowledge is most effective when target-specific information is preserved and the transferred representation is allowed to adapt under target supervision.