TransECG-SSL: Hybrid Self-Supervised Representation Learning for ECG Arrhythmia Classification

📄 arXiv: 2610.35378v1 📥 PDF

作者: Ahtisham Ayyub, Fasih Haider, Muhammad Rehan Usman, Saturnino Luz, Christos Politis, Muhammad Arslan Usman

分类: cs.LG

发布日期: 2026-10-26

备注: Submitted to IEEE Journal of Biomedical and Health Informatics


💡 一句话要点

提出TransECG-SSL以解决ECG心律失常分类的跨数据集泛化问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 心电图 自监督学习 跨数据集泛化 Transformer 心律失常分类 深度学习 医疗健康

📋 核心要点

  1. 现有的ECG心律失常分类方法在跨数据集泛化方面面临挑战,主要由于数据集间的患者差异和类别不平衡。
  2. 本文提出TransECG-SSL框架,通过自监督学习从未标记的ECG数据中提取可转移的心跳表示,结合了掩蔽重建和对比学习。
  3. 实验结果显示,Hybrid SSL在多个数据集上表现优异,平衡准确率高于随机初始化的Transformer和源监督预训练模型。

📝 摘要(中文)

跨数据集泛化是自动化心电图(ECG)心律失常分类中的主要挑战,因患者群体、采集协议、标注实践和类别分布的差异。本文提出TransECG-SSL,一个自监督框架,用于从未标记的ECG数据中学习可转移的心跳表示。通过结合掩蔽信号重建和对比学习的混合目标,预训练Transformer编码器,然后在患者不重叠的评估下进行线性探测。实验结果表明,Hybrid SSL在三个公共ECG数据库和七个源-目标设置中,始终优于随机初始化的Transformer,并且在平衡准确率上超过了与架构匹配的源监督预训练。重建-only SSL与Hybrid SSL竞争力相当,而仅对比预训练的效果显著较差,强调了掩蔽重建在可转移性中的重要性。

🔬 方法详解

问题定义:本文旨在解决心电图(ECG)心律失常分类中的跨数据集泛化问题。现有方法往往依赖于特定数据集的标注数据,导致在不同数据集上表现不佳,尤其是在类别不平衡的情况下。

核心思路:论文提出的TransECG-SSL框架通过自监督学习,从未标记的ECG数据中学习可转移的心跳表示。通过结合掩蔽信号重建和对比学习,增强了模型的泛化能力,减少了对标注数据的依赖。

技术框架:该框架主要包括两个阶段:首先,使用混合目标对Transformer编码器进行预训练;其次,冻结编码器并通过线性探测进行评估。预训练阶段结合了掩蔽重建和对比学习,以提高表示的质量和可转移性。

关键创新:最重要的创新在于提出了混合自监督学习目标,结合了掩蔽重建和对比学习,显著提升了模型在不同数据集上的表现。这一方法与传统的单一目标预训练方法本质上不同,提供了更强的表示能力。

关键设计:在模型设计中,采用了Transformer架构,并设置了适当的损失函数以平衡重建和对比学习的目标。此外,实验中对不同数据集的源-目标设置进行了详细分析,以验证模型的有效性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明,Hybrid SSL在三个公共ECG数据库上表现优异,平衡准确率超过随机初始化的Transformer,且在源监督预训练模型中也表现更佳。重建-only SSL与Hybrid SSL的性能相当,而对比学习的效果显著较差,强调了掩蔽重建的重要性。

🎯 应用场景

该研究的潜在应用领域包括医疗健康监测、远程心电图分析和智能穿戴设备等。通过提高ECG心律失常分类的准确性和泛化能力,TransECG-SSL能够帮助医生更有效地进行心脏病的早期诊断和干预,具有重要的实际价值和未来影响。

📄 摘要(原文)

Cross-dataset generalisation remains a major challenge for automated electrocardiogram (ECG) arrhythmia classification because of differences in patient populations, acquisition protocols, annotation practices, and class distributions. Learning representations that remain informative across independent datasets could reduce reliance on dataset-specific labelled data. We propose TransECG-SSL, a self-supervised framework for transferable heartbeat representation learning from unlabelled ECG data. A Transformer encoder is pretrained using a hybrid objective combining masked signal reconstruction and contrastive learning, then frozen and evaluated by linear probing under patient-disjoint evaluation. Experiments across three public ECG databases and seven source--target settings show that Hybrid SSL consistently outperforms randomly initialised Transformers and achieves higher balanced accuracy than architecture-matched source-supervised pretraining. Reconstruction-only SSL remains competitive with Hybrid SSL, whereas contrastive-only pretraining performs substantially worse, highlighting the importance of masked reconstruction for transferability. Cross-dataset transfer nevertheless reduces balanced accuracy relative to target-specific self-supervised pretraining, while minority arrhythmia classes remain challenging under severe class imbalance. These findings demonstrate the potential of label-efficient self-supervised learning for cross-dataset ECG representation transfer while highlighting persistent limitations from domain shift and class imbalance.