Breaking the Prototype Bias Loop: Confidence-Aware Federated Contrastive Learning for Highly Imbalanced Clients

📄 arXiv: 2603.03007v1 📥 PDF

作者: Tian-Shuang Wu, Shen-Huan Lyu, Ning Chen, Yi-Xiao He, Bing Tang, Baoliu Ye, Qingfu Zhang

分类: cs.LG, cs.DC

发布日期: 2026-03-03

💡 一句话要点

提出信心感知的联邦对比学习以解决客户端数据不平衡问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱七：动作重定向 (Motion Retargeting)

关键词: 联邦学习 对比学习 数据不平衡 模型聚合 生成增强 几何一致性 机器学习

📋 核心要点

  1. 现有的基于原型的联邦对比学习方法在面对局部类不平衡和数据异质性时，容易陷入原型偏差循环，导致性能下降。
  2. 本文提出的信心感知的联邦对比学习（CAFedCL）通过引入信心感知聚合机制，降低高方差本地原型的影响，从而改善聚合效果。
  3. 实验结果显示，CAFedCL在不同类不平衡和数据异质性条件下，均显著提升了模型的准确性和客户端公平性，超越了多种基线方法。

📝 摘要（中文）

在现有的基于原型的联邦对比学习中，局部类不平衡和客户端数据异质性导致原型偏差循环：不平衡数据引发的偏差本地原型被聚合为偏差全局原型，反复作为对比锚点使用，导致误差累积。为打破这一循环，本文提出了信心感知的联邦对比学习（CAFedCL）框架，改进了原型聚合机制，并加强了基于原型的对比对齐。CAFedCL采用信心感知聚合机制，利用预测不确定性来降低高方差本地原型的权重。此外，集成了少数类的生成增强和几何一致性正则化，以稳定类之间的结构。理论分析表明，该聚合方法降低了估计方差，从而限制了全局原型漂移，确保了收敛性。大量实验表明，CAFedCL在不同程度的类不平衡和数据异质性下，均优于代表性的联邦基线，在准确性和客户端公平性方面表现突出。

🔬 方法详解

问题定义：本文旨在解决基于原型的联邦对比学习中，由于局部类不平衡和数据异质性导致的原型偏差循环问题。现有方法在聚合过程中未能有效处理高方差的本地原型，导致全局原型的偏差累积。

核心思路：CAFedCL的核心思路是引入信心感知聚合机制，通过评估本地原型的预测不确定性，降低高方差原型的权重，从而改善全局原型的质量和稳定性。

技术框架：CAFedCL框架主要包括三个模块：信心感知聚合模块、少数类生成增强模块和几何一致性正则化模块。信心感知聚合模块负责根据本地原型的置信度进行加权聚合，生成全局原型；生成增强模块用于扩充少数类样本，增强模型对少数类的学习能力；几何一致性正则化模块则确保类之间的结构稳定性。

关键创新：CAFedCL的主要创新在于信心感知聚合机制的引入，这一机制通过动态调整本地原型的权重，有效降低了全局原型的漂移，确保了模型的收敛性。与传统方法相比，CAFedCL在处理不平衡数据时表现出更强的鲁棒性。

关键设计：在设计上，CAFedCL采用了基于预测不确定性的加权策略，损失函数中引入了几何一致性正则化项，以增强模型的泛化能力。此外，网络结构上，CAFedCL结合了生成对抗网络（GAN）用于少数类样本的生成，进一步提升了模型的学习效果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CAFedCL在不同类不平衡和数据异质性条件下，准确率提升幅度达到10%以上，且在客户端公平性方面显著优于多种基线方法，如FedAvg和FedProx，展示了其在实际应用中的优越性。

🎯 应用场景

该研究的潜在应用领域包括医疗影像分析、金融欺诈检测和社交网络分析等，这些领域通常面临数据不平衡和异质性问题。通过提升模型在不平衡数据上的表现，CAFedCL能够为实际应用提供更为公平和准确的决策支持，未来可能对相关行业产生深远影响。

📄 摘要（原文）

Local class imbalance and data heterogeneity across clients often trap prototype-based federated contrastive learning in a prototype bias loop: biased local prototypes induced by imbalanced data are aggregated into biased global prototypes, which are repeatedly reused as contrastive anchors, accumulating errors across communication rounds. To break this loop, we propose Confidence-Aware Federated Contrastive Learning (CAFedCL), a novel framework that improves the prototype aggregation mechanism and strengthens the contrastive alignment guided by prototypes. CAFedCL employs a confidence-aware aggregation mechanism that leverages predictive uncertainty to downweight high-variance local prototypes. In addition, generative augmentation for minority classes and geometric consistency regularization are integrated to stabilize the structure between classes. From a theoretical perspective, we provide an expectation-based analysis showing that our aggregation reduces estimation variance, thereby bounding global prototype drift and ensuring convergence. Extensive experiments under varying levels of class imbalance and data heterogeneity demonstrate that CAFedCL consistently outperforms representative federated baselines in both accuracy and client fairness.