Giskard : Byzantine Robust and Confidential Aggregation for Large-Scale Decentralized Learning
作者: Ousmane Touat, César Sabater, Mohamed Maouche, Sonia Ben Mokhtar
分类: cs.CR, cs.LG
发布日期: 2026-06-17
备注: 17 pages, with appendix
💡 一句话要点
提出Giskard以解决去中心化学习中的保密性与拜占庭问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 去中心化学习 拜占庭鲁棒性 安全多方计算 模型聚合 隐私保护 分布式学习 通信复杂度 实验验证
📋 核心要点
- 现有去中心化学习方法在处理保密性和拜占庭行为时面临分开解决的挑战，导致效率低下。
- Giskard协议通过树状委员会结构和适应性分布式二分搜索，实现了保密性与拜占庭鲁棒性的统一。
- 实验结果显示，Giskard在参与者数量达到一百万时，通信复杂度显著降低，且模型效用保持稳定。
📝 摘要（中文）
在去中心化学习中，同时处理保密性和拜占庭行为是一个具有挑战性的问题。现有研究通常将这两个目标分开处理，而Giskard协议通过将参与者组织成树状委员会，采用适应委员会的分布式二分搜索方法，提供了一种同时保障保密性和拜占庭鲁棒性的聚合方案。Giskard在理论上证明了其安全性和保密性，并通过涉及多达一百万参与者的实验验证了其有效性。与现有方案相比，Giskard显著降低了每个参与者的通信复杂度，同时在最多有四分之一的拜占庭参与者的情况下保持了模型的有效性。
🔬 方法详解
问题定义：本论文旨在解决去中心化学习中保密性与拜占庭行为的双重挑战。现有方法通常需要在保密性与鲁棒性之间进行权衡，导致效率低下和可扩展性差。
核心思路：Giskard协议通过将参与者组织成树状委员会，利用委员会内部的BGW风格安全多方计算（MPC）来实现保密性和鲁棒性。通过对值域进行适应性分布式二分搜索，Giskard能够有效聚合模型参数。
技术框架：Giskard的整体架构包括多个委员会，每个委员会大小为O(log n)。在委员会内，采用分布式二分搜索来计算坐标-wise的近似中位数，确保在保密性和鲁棒性之间取得平衡。
关键创新：Giskard的主要创新在于其树状委员会结构和适应性聚合方法，使得在处理拜占庭参与者时，通信复杂度显著降低。这与传统方法需要全对全通信或小部分计算的方式形成鲜明对比。
关键设计：Giskard的设计中，委员会的大小和结构是关键参数，采用BGW风格的MPC确保了安全性。同时，分布式二分搜索的实现细节也对聚合效率产生重要影响。通过这些设计，Giskard在面对高比例拜占庭参与者时，仍能保持较高的模型效用。
🖼️ 关键图片
📊 实验亮点
实验结果表明，Giskard在参与者数量达到一百万时，显著降低了每个参与者的通信复杂度，并在最多有四分之一的拜占庭参与者的情况下，保持了与现有方法相当的模型效用。这一成果展示了Giskard在大规模去中心化学习中的优势。
🎯 应用场景
Giskard协议在去中心化学习、联邦学习和分布式机器学习等领域具有广泛的应用潜力。其能够有效处理保密性和鲁棒性的问题，使得在不信任环境下的模型训练成为可能，推动了数据隐私保护和安全计算的发展。未来，Giskard的设计理念也可能被应用于其他需要安全聚合的场景，如金融数据分析和医疗数据共享等。
📄 摘要（原文）
Dealing simultaneously with confidentiality and Byzantine behaviors in decentralized learning is a challenging problem. Indeed, in decentralized learning, clients train a machine learning model while keeping their data locally and share their model parameters or gradients with a set of neighbors. While enforcing confidentiality calls for hiding the exchanged model parameters/gradients (e.g., by using cryptographic techniques), dealing with Byzantine contributions often requires inspecting the latter. Hence, most research works address these objectives separately. A recent line of work proposes to employ secure multi-party computation (MPC) to implement robust aggregators against model poisoning, thereby enforcing both confidentiality and Byzantine resilience. However, these solutions scale badly: they either require all-to-all communication between participants or delegate the entire computation to a small subset, whose computational and communication load grows proportionally with the size of the network. In this paper, we present Giskard, a protocol for confidential and Byzantine-robust decentralized aggregation. Giskard organizes $n$ parties into a tree of committees of size $O(\log n)$ and evaluates a coordinate-wise approximate median via a committee-adapted distributed binary search over the value domain, using BGW-style MPC within each committee. We assess Giskard both theoretically by proving its security and confidentiality properties and experimentally through extensive experiments involving up to one million participants. Compared to its closest competitors, Giskard reduces per-party communication complexity asymptotically while exhibiting comparable model utility under up to $n/4$ Byzantine parties.