SL-S4Wave: Self-Supervised Learning of Physiological Waveforms with Structured State Space Models

📄 arXiv: 2606.19888v1 📥 PDF

作者: Feng Wu, Harsh Deep, Eric Lehman, Sanyam Kapoor, Guoshuai Zhao, Rahul Krishnan, Gari Clifford, Li-wei H Lehman

分类: cs.LG, cs.AI

发布日期: 2026-06-18

💡 一句话要点

提出SL-S4Wave以解决多通道生理波形建模问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 自监督学习 生理信号建模 心电图 长序列建模 多通道信号 对比学习 结构状态空间模型 标签效率

📋 核心要点

  1. 现有自监督学习方法在处理长序列医疗时间序列数据时，难以有效捕捉长程依赖和噪声特征。
  2. SL-S4Wave结合对比学习与结构状态空间模型，设计了多层全局卷积编码器，以捕捉细粒度局部模式和长程时间依赖。
  3. 在真实世界数据集上，SL-S4Wave在心律失常检测任务中表现优异，且在长波形段上保持稳健性能，展示了强大的标签效率。

📝 摘要（中文）

建模长序列医疗时间序列数据（如心电图）面临高采样率、多通道信号复杂性、固有噪声和标注数据有限等挑战。尽管近期基于自监督学习的方法已被提出，但它们在捕捉长程依赖和噪声不变特征方面仍显不足。本文提出SL-S4Wave，一个结合对比学习和结构状态空间模型的自监督学习框架，能够有效捕捉多通道生理波形的独特特征。实验结果表明，SL-S4Wave在心律失常检测任务中超越了现有的监督和自监督基线，展现出强大的标签效率和跨领域泛化能力。

🔬 方法详解

问题定义：本文旨在解决长序列医疗时间序列数据建模中的挑战，尤其是心电图等多通道信号的复杂性和噪声影响。现有方法在捕捉长程依赖和噪声不变特征方面存在不足。

核心思路：SL-S4Wave通过结合对比学习与结构状态空间模型，设计了一种专门的编码器，能够有效捕捉多通道生理波形的独特特征，尤其是在高噪声环境下。

技术框架：SL-S4Wave的整体架构包括一个多层全局卷积编码器，利用多尺度子核来捕捉细粒度局部模式和长程时间依赖。该框架通过自监督学习策略进行训练，增强了模型的泛化能力。

关键创新：SL-S4Wave的主要创新在于其编码器的设计，能够有效处理多通道信号的复杂性，克服了现有S4架构在生理波形建模中的局限性。

关键设计：在模型设计中，采用了多层全局卷积结构和对比学习损失函数，以提高模型对长序列和噪声的鲁棒性，同时优化了参数设置以增强模型的学习能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

SL-S4Wave在心律失常检测任务中表现出色，超越了现有的监督和自监督基线，且在使用显著更少的标注样本情况下仍能保持高性能。此外，该模型在长波形段上表现稳健，展示了其在复杂时间动态建模中的优势。

🎯 应用场景

SL-S4Wave的研究成果在医疗健康领域具有广泛的应用潜力，特别是在心电图和脑电图等生理信号的自动分析与监测中。其强大的标签效率和跨领域泛化能力将推动智能医疗设备的发展，提高疾病早期检测和预警的准确性。

📄 摘要（原文）

Modeling long-sequence medical time series data, such as electrocardiograms (ECG), poses significant challenges due to high sampling rates, multichannel signal complexity, inherent noise, and limited labeled data. While recent self-supervised learning (SSL) methods, based on various encoder architectures such as convolutional neural networks, have been proposed to learn representations from unlabeled data, they often fall short in capturing long-range dependencies and noise-invariant features. Structured state space models (S4) excel at long-sequence modeling, but existing S4 architectures fail to capture the unique characteristics of multichannel physiological waveforms. In this work, we propose SL-S4Wave, a self-supervised learning framework that combines contrastive learning with a tailored encoder built on structured state space models. The encoder incorporates multi-layer global convolution using multiscale subkernels, enabling the capture of both fine-grained local patterns and long-range temporal dependencies in noisy, high-resolution multichannel waveforms. Extensive experiments on real-world datasets demonstrate that SL-S4Wave (1) consistently outperforms state-of-the-art supervised and self-supervised baselines in a challenging arrhythmia detection task, (2) achieves high performance with significantly fewer labeled examples, showcasing strong label efficiency, and (3) maintains robust performance on long waveform segments, highlighting its capacity to model complex temporal dynamics in long sequences that most existing approaches fail to efficiently model, and (4) transfers effectively to unseen arrhythmia types, underscoring its robust cross-domain generalization. We additionally evaluate SL-S4Wave on multiple EEG tasks, achieving superior performance over strong baselines, demonstrating generalizability of our approach beyond cardiac waveforms.