大数据驱动的智能应用发展迅速, 提高了人们生产和生活的效率, 同时引发了公众对于数据安全和隐私保护问题的讨论与担忧. 当数据生产者分布在异构网络中, 如何有效且合理地管理并使用这些数据, 成为人工智能领域中一个亟需解决的问题. 一方面, 大数据服务商需要为用户提供高效的智能化服务(如Google的翻译系统); 另一方面, 用户考虑到个人隐私, 不愿意向服务商共享其私有数据. 为了解决大数据环境下的数据孤岛问题, Google在2016年首次提出了联邦学习框架(federated learning, FL)^[1]. FL是一种分布式的机器学习范式, 能够实现大数据隐私保护, 并进行多终端协同的数据共享和机器学习建模. 每个分布式设备不需要将其隐私数据上传至中心服务器, 而是在本地进行模型训练后, 发送少量的模型更新信息^[2]. 然后, 由中心服务器聚合所有的更新信息并统一优化全局模型, 该优化后的模型将分发给各个设备并用于下一轮训练. FL从技术上打破了数据孤岛, 使得海量用户数据能够被有效地共享和使用, 受到学术界和工业界的广泛关注.

然而, 传统的FL框架仍面临着诸多问题, 其中最为突出的问题是基于主从架构的通信模式. 这种通信模式易受到分布式环境中恶意节点的攻击, 极大地影响了FL中的模型鲁棒性. 例如, 横向联邦学习研究中一种常见的图像分类任务FEMNIST, 其易受到网络中恶意节点的攻击, 即向本地模型中注入高斯噪声, 以降低全局模型的预测性能^[3]. 由图 1可得, 传统联邦学习框架(记为vanilla FL)在更新全局模型时, 由于缺乏针对恶意攻击的检测机制, 导致当网络中存在15%的恶意节点向本地模型中注入方差为1的高斯噪声时, Vanilla FL中全局模型的预测精度在100轮迭代后下降了88.45% (相比无恶意节点的情况). 因此, 不少学者开始研究如何引入一种新技术来提高数据联邦在大数据环境下的安全性. 区块链被认为是一种安全的分布式存储方案. 得益于链式的数据结构和共识机制, 它能够抵御网络中部分恶意节点的攻击, 并维持大多数节点本地数据一致性. 以比特币^[4]为例, 集成了一种高安全性的共识算法, 称为工作量证明(proof-of-work, PoW). PoW将工作量(参与设备的算力)作为各个节点间竞争区块链记账权的标准, 因此, 成功攻击比特币网络需要消耗巨大的算力. 此外, PoW的安全性还与参与节点的数量呈正相关. 随着比特币网络的不断发展, PoW不仅为其提供了更高的安全性, 还实现了更高程度的去中心化.

当前, 不少学者开始研究基于区块链的FL (blockchain-based FL, BFL)框架以提高FL的安全性. 然而, 现有的BFL框架为了提高全局模型的鲁棒性, 往往需要消耗大量的网络带宽以达成各个节点的共识结果^{[3, 5−7]}. 并且, 由于传统区块链中广泛采用的全复制策略, 使得系统的存储消耗不断增加. 在大数据背景下, BFL框架需要更高效的共识机制和更轻量的存储策略, 以提高模型参数验证效率并减少系统的运维成本.

针对上述问题, 本文提出了一种高效的去中心化联邦学习框架(efficient decentralized federated learning framework, EDFL), 可以显著降低系统开销并提高FL的学习效率. 在每轮全局模型迭代开始时, EDFL会根据历史贡献度将特定角色分配给网络中的设备: (1) 训练者(T)使用私有数据集训练本地模型并上传训练后的模型参数; (2) 评估者(E)负责评估训练者上传的模型参数; (3) 聚合者(A)负责聚合所有的合法参数以更新全局模型并生成新的区块. 每轮全局模型迭代结束时, 自适应奖励算法会根据各个节点的所属角色和工作强度给予相应奖励, 并更新其贡献度. 在下一轮迭代开始时, EDFL基于各个节点的贡献度为其重新分配角色, 以保障系统中节点的流动性. 所有合法节点交替地执行模型训练、参数评估和区块生成任务, 使得全局模型能够被及时且正向地更新. 本文的主要贡献如下.

(1) 提出了一种去中心化的FL模型参数验证机制. EDFL将评估者和聚合者组成验证委员会, 对所有训练者上传的模型更新参数进行去中心化验证. 只有提交合法参数的训练者才能通过验证委员会中的交叉评估进程, 然后由聚合者聚合全部合法参数并更新全局模型. 在每轮全局模型迭代结束时, 角色轮换策略基于贡献度将角色重新分配给各个节点, 保证3种角色所包含节点的流动性, 以实现EDFL验证机制的去中心化.

(2) 提出了一种基于贡献度证明的共识机制. 在每轮迭代开始时, 历史贡献度排名前c的节点将组成验证委员会. 其中, 拥有最高贡献度的节点将成为本轮的聚合者, 剩余的节点成为评估者, 以确保模型参数验证和区块生成进程能够被合法执行. 在验证委员会中, 评估者的投票结果与其贡献度共同影响了训练者的合法性评估. 所有的模型参数与其对应的交叉评估结果交由聚合者统一进行收集、聚合、出块(区块生成), 以维持全局模型的正向更新.

(3) 为了提高验证委员会中交叉评估的效率, 提出了一种非阻塞的交叉评估机制. 评估者与聚合者之间通过异步通信的方式缓解了参数验证进程中的阻塞问题. 此外, 在验证委员会中引入了竞争机制, 进一步提升了去中心化验证进程的执行效率.

(4) 提出了一种区块链分区存储策略. EDFL将拥有K个区块的区块链进行分区存储, 使得网络中参与节点的本地存储消耗从O(K)下降至O(1). 为了保障数据完整性, 设计了一种面向多副本纠删编码块的均匀分配规则, 以提高分区容错性和恢复效率.

(5) 为了更加精确地评估各个节点对全局模型的贡献度, 提出了一种角色自适应奖励算法. 针对不同的角色, 其获得的奖励将基于本轮迭代的工作强度计算得出. 采用自适应奖励算法, 不仅有助于激励合法节点的模型训练, 还能有效地识别出分布式环境中的恶意节点.

本文第1节综述基于区块链的联邦学习框架的相关工作. 第2节给出本文提及方法的背景知识和主要概念. 第3节介绍去中心化联邦学习框架EDFL. 第4节介绍基于贡献度证明的委员会共识. 第5节介绍区块链分区存储策略与角色自适应奖励算法. 第6节对比不同FL框架的实验结果并进行分析. 第7节对本文工作进行总结并探讨未来的工作.

1 相关工作

作为一个分布式的机器学习框架, FL的首要任务是通过协调网络的各个节点来学习一个表现良好的机器学习模型. 为了实现这一目标, FL需要确保网络的参与设备能够进行模型训练, 并向中心服务器上传合法的模型参数. 然而在传统的FL框架中, 这个问题并没有得到有效的解决. 因此, 不少学者开始研究基于区块链的联邦学习框架, 用于验证和记录节点上传的模型更新参数, 以构建一个高鲁棒性开放式协作学习网络.

将区块链应用于FL, 优势在于它可以提高网络的安全性. 为了解决单点故障问题, 区块链提供了一种去中心化的模型参数的聚合方案^{[6, 8, 9]}. 因为区块链具有可追溯、不可篡改和可审计的特点, 使得它可以为FL提供可靠且可信的分布式学习方案^[10−12]. Lyu等人^[12]提出一种交叉评估机制以提高本地模型的可信度. 为了保证算法的公平性, 提出一种3层加密方案, 保证了数据隐私并提高模型预测的准确性. 然而, 这项工作并没有关注共识协议. 如果网络中存在恶意节点并上传非法模型参数, 将严重影响全局模型预测精确度.

对于每个节点而言, 本地的区块链账本都由一种链式的数据结构组成, 以保证数据不被篡改. 对于整个网络来说, 每轮中的数据一致性需要由一系列分布式共识算法来保证, 以确保大多数节点的共识结果不会受到部分恶意节点的干扰. 因此, 近年来的多项BFL研究工作主要集中在共识机制上. 根据CAP原则^[13], BFL框架中的共识机制被分为两大类: 基于竞争的共识算法^{[3, 14]}具有高可用性和分区容错性, 这表明区块的生成先于节点间达成共识; 与之相反, 基于通信的共识算法^{[7, 15, 16]}具有更强的数据一致性和分区容错性, 要求网络中的共识结果必须先于区块产生. 前者在提升参数验证效率和节点活跃性方面发挥着重要作用, 而后者可以提高全局模型的安全性和分布式环境中的数据一致性.

Kim等人^[14]通过分析端到端的模型预测精确度来提高区块链的吞吐量, 为深度学习应用设计了一种基于PoW共识的BFL框架. 但是, 如果网络中的节点数量达到一定规模, 这种方法将产生巨大的通信消耗和区块生成延迟. 另一项基于拜占庭容错的工作^[7]对联盟链进行改进, 但它没有描述其具体的验证方法, 并且破环了FL参与设备的匿名性. Chen等人^[3]提出了一种基于权益证明的FL框架(robust blockchained federated learning with model validation, VBFL), 首次将多角色的激励机制引入FL模型参数验证, 并在真实的MNIST数据集上进行模拟实验. 但是在分布式参数验证阶段, 该方法中不同角色之间产生了较大的通信消耗; 并且, 没有考虑由于过高奖励所导致的出块权被连续独占的问题. 实验结果表明, 随着系统的运行, VBFL的部分节点会在中后期表现出中心化的特征.

由于已有的相关工作缺少一种更公平、更高效的参数验证机制, 本文综合考虑了两类共识机制的优点, 提出了一种新的去中心化FL框架, 称为EDFL. 一方面, EDFL基于节点贡献度在每轮中选择贡献度排名靠前的节点组成验证委员会, 其中, 拥有最高贡献度的聚合者负责聚合其他评估者发来的参数评估结果并最终达成强一致性. 聚合者收集所有模型更新参数, 并聚合其中合法的部分用于更新全局模型, 然后将本轮中的训练、验证、聚合阶段的中间结果记录在新区块中. 另一方面, EDFL利用竞争机制提高了模型参数评估的效率, 提出了一种非阻塞的交叉评估方法, 能够跳过一部分非必要的评估过程并实现等效的合法性验证. 此外, 给予评估者的工作奖励是基于时序的, 将进一步提升去中心化参数验证进程的效率.

2 背景知识 2.1 数据联邦

数据联邦是一种数据集成方式, 旨在实现各种来源、格式、特点的数据在逻辑上进行有机地集成. 数据联邦的特点是将各方信息保留在本地以保护数据隐私, 并提供统一的数据视图实现数据共享. 数据联邦中一个典型的上层应用是联邦学习, 其能够协调分布式环境中的各个设备共同参与机器学习建模, 而无须上传各参与方的本地数据. 联邦学习不仅能够有效利用多方数据驱动智能应用进行不断优化, 还解决了各参与方对于隐私保护和数据安全的诉求. 加上数据联邦与区块链技术在数据共享方面具有较高的契合度, 目前越来越多的学者针对基于区块链的联邦学习框架展开了深入研究.

2.2 区块链技术

区块链这一概念最早是在中本聪的比特币白皮书^[4]中提出的. 比特币是一种点对点的电子现金系统, 它不仅具有完全开放和数据透明的特性, 而且在保护用户数字资产方面表现出了极高的安全性. 目前, 基于区块链技术的比特币已经成为全球最大的加密货币交易系统.

从本质上讲, 区块链是一种特殊的链式数据结构, 各区块通过父区块的哈希值相互连接^[17]. 如图 2所示, 每个区块都由区块头(header)和区块体(body)两部分组成. 其中, 区块头存储着前一个区块的哈希值(previous block Hash)、提交的时间戳(timestamp)、挖矿难度(nonce)、梅克尔根(Merkle root)以及区块的版本号(version); 区块体由一系列经过排序后的交易(transaction)组成, 每个交易都存储着若干有关业务对象属性的查询和修改操作. 区块间的数据通过链式结构相连接, 以维持区块链的稳定性; 区块内的数据通过树型结构相连接, 以保证交易数据不被篡改. 因此, 任何尝试修改区块链内容的操作都将消耗巨大的计算成本. 综上所述, 区块链可以被视为一种的分布式账本, 网络中的每个节点在本地保存着同一份账本的副本, 其中记录着一系列不可篡改的数据操作记录.

如图 2所示, 一组具有特定顺序的交易通过稳定的哈希链和梅克尔树组织起来, 这使得存储在区块链上的数据具有以下特殊属性.

(1) 去中心化. 基于点对点网络, 使得区块链系统中的节点不需要借助第三方服务器或中心节点来进行消息传递. 在网络通信中, 所有的节点都处于平等的地位. 这种去中心化的特性, 有助于提高网络的鲁棒性和公平性, 极大地降低了系统被成功攻击的概率.

(2) 可溯源性. 区块链上的每一笔交易都可以通过链式和树型的数据结构追溯到其源头. 这为每个历史的数据操作记录提供了可达性, 也证明了区块链上数据的当前状态是可信的.

(3) 防篡改性. 任何尝试修改链上数据的操作都伴随着巨大的计算成本. 区块链采用安全散列算法(secure Hash algorithm, SHA)进行数据摘要的计算, 保证了运算过程的不可逆性. 如果试图篡改一个块的内容, 除非重写在它之前的所有区块, 否则链将会断开. 这种覆盖所有父区块的操作需要巨大的算力资源, 从而保证了各节点本地账本的不可篡改性.

2.3 纠删码技术

将区块链技术应用于FL框架, 可以极大地提高其安全性. 但在大数据背景下, 传统区块链^{[3, 6, 8, 14]}中广泛使用的全复制存储策略将给BFL系统带来巨大的存储消耗. 一种有效的解决方案是引入纠删码技术(erasure coding)^[18−21]. 这是一种前向纠错编码方法, 能够在本地生成少量的修复编码块, 以提高系统的存储可靠性.

里德-所罗门编码(Reed-Solomon coding, RSC)^[22]是分布式存储系统中常用的一种纠删编码方法, 其包含一个编码器和一个解码器. 编码器为原始数据提供更多的冗余块, 使得用户能够在丢失部分数据的情况下, 从剩下的编码块中恢复原始数据. 在数据编码阶段, 给定一组长度为K的原始数据块, RSC编码器能够将其编码成一组长度为M的冗余块. 在数据解码阶段, 因为生成了额外的M个冗余块, RSC解码器能够使用K+M个数据块中的任意K个数据块恢复原始数据. 给定K个原始数据{D₁, D₂, …, D_k}, 基于柯西矩阵的RSC编码可以通过公式(1)计算出M个冗余块{R₁, R₂, …, R_m}:

$ \left[ {\begin{array}{*{20}{c}} 1&0& \cdots &0 \\ 0&1& \cdots &0 \\ \vdots & \vdots & \ddots & \vdots \\ 0&0& \cdots &1 \\ {\frac{1}{{{x_1} + {y_1}}}}&{\frac{1}{{{x_1} + {y_2}}}}& \cdots &{\frac{1}{{{x_1} + {y_k}}}} \\ {\frac{1}{{{x_2} + {y_1}}}}&{\frac{1}{{{x_2} + {y_2}}}}& \cdots &{\frac{1}{{{x_2} + {y_k}}}} \\ \vdots & \vdots & \ddots & \vdots \\ {\frac{1}{{{x_m} + {y_1}}}}&{\frac{1}{{{x_m} + {y_2}}}}& \cdots &{\frac{1}{{{x_m} + {y_k}}}} \end{array}} \right] \times \left[ {\begin{array}{*{20}{c}} {{D_1}} \\ {{D_2}} \\ \vdots \\ {{D_k}} \end{array}} \right] = \left[ {\begin{array}{*{20}{c}} {{D_1}} \\ {{D_2}} \\ \vdots \\ {{D_k}} \\ {{R_1}} \\ {{R_2}} \\ \vdots \\ {{R_m}} \end{array}} \right] $

(1)

与传统的全复制策略相比, 将基于柯西矩阵的RSC编码应用于区块链中, 能够实现更高的存储可扩展性.

3 去中心化联邦学习框架

在只共享模型参数的前提下, FL实现了多终端协作的机器学习模型训练, 可以有效地避免用户数据直接从本地节点传输到中心服务器过程中造成的隐私泄露. 对于传统的FL框架, 中心服务器负责收集、聚合和广播每轮迭代中的模型参数, 这种主从架构的通信模式增加了系统遭受单点故障和恶意攻击的概率. 一种直接的解决方法是采用去中心化的区块链代替传统的主从架构, 构建基于点对点通信的可信联邦学习网络.

尽管区块链能够提高FL框架中的安全性, 但它将产生额外的通信成本和存储消耗. 因此, 为了减轻大数据环境下的系统开销并且提高FL学习效率, 本文提出一种去中心化的联邦学习框架(EDFL). 在移除了中心服务器后, 每个分布式节点根据每轮分配到的角色分别执行模型训练、参数评估和聚合上链这3类任务. 采用基于贡献度证明的委员会共识, EDFL在参数评估阶段可以激励合法节点上传本地的更新参数, 能够有效地防止恶意节点损害全局模型. 针对存储可扩展性, 本文提出了一种鲁棒的区块链分区存储策略. 它可以将节点的本地存储消耗降低至常数水平, 并显著提升其在数据恢复阶段的效率. 在下面的章节, 本文将详细介绍EDFL的主要工作流程.

3.1 参数定义及解释

定义1(迭代周期). EDFL使用一定的迭代周期去更新FL全局模型, 每个周期内的工作由模型训练、参数验证和聚合上链这3个部分组成. 迭代周期集合使用R={1, 2, …, j}(j∈N₊)表示, |R|是一个超参数, 表示EDFL中模型收敛所需要的最大迭代周期数.

定义2(角色分配). EDFL中的参与节点由集合N={n₁, n₂, …, n_i}(2≤i≤k)表示, k表示集合N的总个数|N|. 如图 3所示, 在第j轮迭代开始时, 所有节点基于历史贡献度被划分成3种不同的角色(|T|+|E|+|A|=|N|), 其中包括训练者T={t₁, t₂, …, t_x}(0 < x < k−2)训练本地模型、评估者E={e₁, e₂, …, e_y}(0 < y < k−2)评估由T发过来的模型参数, 聚合者A={a}聚合由E评估后的合法参数并生成新的区块.

定义3(全局模型和本地模型).在第j轮迭代中, EDFL协调所有节点以更新FL全局模型, 记为M_j. 在下一轮迭代中, M_j将作为各个节点的本地模型, 用于进行模型训练和参数评估以更新M_j+1, 如此往复.

定义4(模型参数评估).如图 3所示, 评估者E需要使用本地数据集去评估训练者T发来的模型参数. 在第j轮迭代中, e_y对于t_x评估结果用投票v^(j)(y, x)表示, 该投票结果将发送给聚合者等待最终验证.

定义5(模型参数验证).对于每个训练者t_x, 聚合者需要在验证委员会中收集并聚合t_x有关的所有评估结果{v^(j)(y, x)}. 评估结果将最终决定t_x上传的模型更新是否能够通过委员会的合法性验证.

定义6(节点的贡献度).在EDFL中, 区块链保存有每个节点所获得的累计奖励, 称为其贡献度. 节点n_i在第j轮开始时的贡献度使用$\mathbb{C}_i^{(j)}$表示, 若节点n_i在本轮中当选为评估者, 那么它的贡献度$\mathbb{C}_i^{(j)}$也将作为验证委员会中的投票权重.

3.2 去中心化异步验证机制

如图 3所示, EDFL由外层的训练者和内部的验证委员会两部分组成, 其中, 验证委员会中历史贡献度最高的节点将选为本轮迭代中的聚合者, 其余节点为评估者. 首先, 外部的训练者从区块链中获取上一轮迭代的全局模型参数, 并将其更新至本地模型; 然后, 训练者使用私有数据集进行本地模型训练, 得到可用于更新本轮全局模型的模型参数并上传给评估者; 评估者接收到模型参数后, 使用本地数据集对接收到的所有模型参数进行评估和投票; 再者, 由聚合者以异步的方式地收集所有评估者的投票和对应的模型参数, 根据投票的结果以及投票者的贡献度动态决定该模型参数是否能够用于更新本轮的全局模型; 最后, 聚合者将本轮中所有合法的模型参数进行聚合, 并打包出新区块分发给其他节点.

在EDFL启动后, 系统中的每个参与节点需要执行以下初始化进程: (1) 数据集准备, 初始化一组本地数据样本用于训练本地模型; (2) 非对称加密密钥对生成, 使用SHA256算法生成一组属于该节点的公钥(PK)和私钥(SK), 公私钥之间可以互相认证以保证网络中消息的可靠性; (3) 角色分配, 根据历史贡献度从高到低, 所有节点将被分配到具体的角色(A, E, T). 如图 3所示, 在第j轮迭代中, 训练者t_x使用其私有数据集训练本地模型M_j−1. 训练完成后, t_x将封装有模型参数的消息$ Ms{g_t}(P_x^{(j)},S{K_x}) $使用私钥签名后发送给随机的评估者. 算法1给出了去中心化异步验证方法, 如下所示.

算法1. 去中心化异步验证方法.

输入: 训练者t_x签名后的消息$ Ms{g_t}(P_x^{(j)},S{K_x}) $, 参数验证哈希表PT, 评估者投票队列VQ, 区块链BC^(j−1).

输出: 区块链BC^(j).

1. if (评估者e_y接收到消息$ Ms{g_t}(P_x^{(j)},S{K_x}) $)

2.   if ($ Ms{g_t}(P_x^{(j)},S{K_x}) $能够通过本地公钥PK_x验证)

3.     将$ Ms{g_t}(P_x^{(j)},S{K_x}) $广播给其他评估者E;

4.    end if

5.    for $ P_i^{(j)} \in \{ Ms{g_t}(P_x^{(j)},S{K_x})\} $ (i=1; i≤|E|; i++)

6.      向聚合者请求$ PT(P_i^{(j)}) $;

7.      if ($ PT(P_i^{(j)}) $没有通过验证)

8.     v^(j)(y, i)=ParametersEvaluate($ P_i^{(j)} $);

9.     向聚合者发送签名后的消息Msg_e(v^(j)(y, i), $ P_i^{(j)} $, SK_y);

10.    end if

11.   end for

12. end if

13. if (聚合者接收到消息Msg_e(v^(j)(y, i), $ P_i^{(j)} $, SK_y))

14.    初始化PT和VQ;

15.    while (在区块生成的时间阈值内)

16.      if (Msg_e(v^(j)(y, i), $ P_i^{(j)} $, SK_y)能够通过本地公钥PK_y验证且$ PT(P_i^{(j)}) $≥0.5

17.        VQ.Add(v^(j)(y, i));

18.        if (v^(j)(y, i)==True)

19.          $\mathbb{C}_y^{(j)}$=FetchContribution(e_y, BC^(j−1));

20.          PT.Update($P_i^{(j)},\mathbb{C}_y^{(j)}$);

21.        end if

22.      end if

23.    end while

24.    BC^(j)=GenerateBlock(BC^(j−1), PT, VQ, SK_a);

25.    聚合者将BC^(j)广播给其他节点;

26. end if

• 算法工作原理

对于评估者e_y而言, 签名验证和参数评估是两项必须完成的任务. 如算法1(第1−4行)所示, 当评估者e_y接收到来自训练者t_x的消息$ Ms{g_t}(P_x^{(j)},S{K_x}) $时, 需要通过本地的公钥PK_x去验证消息的签名, 并在验证委员会之间广播合法的消息, 使得每个评估者能够收集到全部训练者上传的模型参数$ \{ Ms{g_t}(P_i^{(j)},S{K_i})\} $. 然后, e_y通过向聚合者发送请求, 以确定当前的模型参数$ P_i^{(j)} $是否已经通过验证(第5、6行): 如果没有通过验证, 则将使用本地的数据集执行参数评估进程, 并将评估者e_y评估结果以投票的形式发给聚合者(第7−12行), 记为Msg_e(v^(j)(y, i), $ P_i^{(j)} $, SK_y).

作为拥有最大贡献度的节点, 聚合者负责收集并聚合其他节点的工作. 与先来先服务(FCFS)调度策略类似, 聚合者将优先处理网络中先接收到消息(第13−17行). 如果参数$ P_i^{(j)} $此时已通过验证, 则不会处理后续与之相关的投票. 聚合者基于收集到的评估投票和对应评估者的贡献度来判断参数$ P_i^{(j)} $是否通过了委员会的验证(第18−20行). 在完成所有聚合工作或达到区块生成的时间阈值时, 聚合者需要在区块链上生成新的区块并广播给其他节点, 以确保每一轮迭代中全局模型M_j能够被及时且合法地更新(第21−24行).

• 算法时间复杂度分析

为了提高EDFL中的模型参数验证效率, 本文提出了一种去中心化异步验证算法. 它允许聚合者忽略部分非必要的评估者投票, 提高了分布式验证进程的并行效率. 因为聚合者的选择是基于历史贡献度而非竞争机制, 所以EDFL可以有效地避免挖矿过程带来的区块生成延迟. 与时间复杂度为O(M×T×E)的VBFL^[3]相比, 本文提出的去中心化异步验证算法能够将时间复杂度下降至O(T×E), 其中, T表示训练者的数量, E表示评估者的数量, M表示矿工的数量.

此外, 本文提出了角色自适应奖励算法以进一步提高参数验证进程的效率. 在第j轮迭代中, 不同角色所获得的预期奖励$ r_t^{(j)},{\text{ }}r_e^{(j)},{\text{ }}r_a^{(j)} $将通过区块链中对应的智能合约计算得出. 具体的奖励算法将在第5.2节中详细介绍.

4 基于贡献度证明的委员会共识机制

FL的首要任务是: 基于数据联邦, 训练具有高性能的全局模型. 为了实现这一目标, FL框架不仅需要激励合法节点积极上传模型参数, 而且需要具有较强的恶意节点识别能力. 因此, 本文提出一种基于贡献度证明的委员会共识机制, 能够保证分布式环境下的数据一致性, 并有效地降低恶意节点对全局模型的负面影响.

4.1 验证委员会

如定义6所述, 本文使用$\mathbb{C}_i^{(j)}$来表示每个节点对全局模型的贡献度, 以此量化分布式环境中各节点的合法性. 在每轮迭代开始时, 验证委员会由贡献度排名前c的节点组成, 其中, 持有最高贡献度的聚合者将成为委员会的临时领导者. 为了保证大多数节点的共识结果不受到少数恶意节点的干扰, 本文利用公式(2)来验证EDFL委员会的安全性.

$ {P_s} = \sum\nolimits_{i = 0}^{\frac{{\left\lceil {c \times n} \right\rceil }}{2} - 1} {\frac{{\left( {\begin{array}{*{20}{c}} {n(1 - m)} \\ i \end{array}} \right) \times \left( {\begin{array}{*{20}{c}} {n \times m} \\ {n \times c - i} \end{array}} \right)}}{{\left( {\begin{array}{*{20}{c}} n \\ {n \times c} \end{array}} \right)}}} $

(2)

在节点数为n的网络中, 系统被成功攻击的概率P_s由公式(2)计算得到, 其中, m和c分别表示恶意节点和委员会节点在EDFL中的比例.

本文将系统被成功攻击定义为恶意节点占据了委员会中的大部分席位. 为了更加直观地展示m和c的不同取值对于系统安全性的影响, 本文在公式(2)的基础上进行实验, 实验结果见表 1.

从总体上看, 与变量c相比, 变量m对委员会共识的影响更大. 如表 1所示, 随着恶意节点比例m的变化, 委员会被成功攻击的概率P_s朝着0和1两个极端发展; 此外, 当恶意节点比例m大于0.5时, 随着委员会节点比例c的增加, 委员会被成功攻击的概率将会进一步提升. 这一现象与PoW共识算法^[4]中的“51%算力攻击”结论吻合. 进而得出结论: 当系统中的恶意节点占据了超过半数委员会席位时, 验证委员会的共识结果将面临着被操控的风险.

4.2 贡献度证明共识机制

如上所述, 委员会共识能够为BFL系统提供50%的容错能力, 但其在模型参数交叉评估过程中将产生|T|×|E|的通信消耗. 为了提高去中心化参数验证的效率, 本文提出一种非阻塞的交叉评估方法, 允许聚合者忽略一部分非必要的评估过程, 并实现等效的合法性验证. 如算法1(第20行)中所示, 聚合者通过维护一个存有各个训练者上传模型参数的哈希表PT, 来验证并聚合其中的合法参数. 对于训练者t而言, 如下两种验证结果在哈希表PT中是等效的, 例如$ PT(P_i^{(j)}) $={True, True}和{True, True, False}. 这表明在验证委员会中, 如果当前正向投票数量超过评估者数量的一半时, 后续的评估过程将是不必要的.

因此, 为了提高验证委员会中交叉评估的效率和鲁棒性, 本文基于贡献度为每个评估者设计了不同的投票权重. 通过区块链上存储的可靠记录, 评估者e_y的投票权重将通过其贡献度$\mathbb{C}_y^{(j)}$计算得出. 这使得一些恶意节点在验证委员会中始终保持着较低的话语权. 与公式(2)不同, 改进后的验证结果不仅取决于正向投票的数量, 还取决于评估者的历史贡献度, 这能够进一步降低委员会被成功攻击的概率. 具体来讲, 聚合者利用公式(3)来判断训练者上传的模型参数是否能够通过合法性验证.

$ {PT}(P_t^{(j)}) = \frac{{\exp (\mathbb{C}_y^{(j)} + \beta ) \times {v^{(j)}}(y,t)}}{{\sum\nolimits_{i = 0}^{|E|} {\exp (\mathbb{C}_i^{(j)} + \beta )} }} + PT(P_t^{(j)}) $

(3)

本文采用归一化指数函数来量化验证委员会对训练者上传参数的认可度. 哈希表$ PT(P_t^{(j)}) $存储着训练者t上传参数$ P_t^{(j)} $的验证结果. 聚合者通过本轮中收集到的投票v^(j)(y, t)和该投票所属评估者的贡献度$\mathbb{C}_y^{(j)}$来更新$ PT(P_t^{(j)}) $. 公式(3)描述了具体的更新方法, 其中, $ PT(P_t^{(j)}) $和$ \widehat {PT}(P_t^{(j)}) $分别表示聚合者对模型参数$ P_t^{(j)} $更新前和更新后的验证结果. β是一个超参数, 用于解决EDFL运行中后期由于过高贡献度而导致的变量内存溢出问题. 在$ PT(P_t^{(j)}) $完成更新后, 聚合者根据更新后的$ \widehat {PT}(P_t^{(j)}) $来标记$ P_t^{(j)} $是否通过验证: 如果$ \widehat {PT}(P_t^{(j)}) $≥ 0.5, 则表示委员会中多数合法的评估者已经认可训练者t在本轮中上传的模型更新参数$ P_t^{(j)} $; 否则, 在本轮迭代中, 聚合者将不能使用参数$ P_t^{(j)} $来更新全局模型.

5 区块链分区存储策略与角色自适应奖励算法

在EDFL中, 验证委员会验证每轮迭代中上传的模型参数, 然后区块链将合法性验证结果存储在可靠的分布式账本上. 通过散列的链式数据结构, 使得存储在本地账本的共识结果变得不可篡改, 从而提高了全局模型的鲁棒性. 然而, 区块链为FL提供更高安全性的同时, 也给每个节点带来了巨大的本地存储消耗. 为了解决这一问题, 本文提出一种区块链分区存储策略. 为了进一步激励合法节点并且有效地识别出网络中恶意设备, 本文还提出一种角色自适应奖励算法来评估每轮中不同节点对全局模型的贡献度.

5.1 分区存储策略

在大数据背景下, 传统区块链的全复制策略不适用于有大量参与节点的FL框架^{[3, 4, 6, 7]}. 本文提出的区块链分区策略能够显著提高各个节点在数据联邦环境下的存储扩展性, 并在较低的恢复延迟下, 保证了原数据的完整性. 通过基于柯西矩阵的局部修复编码(local reconstruction code, LRC)^[23], 有效地解决了RSC编码中数据恢复效率较低的问题. 与RSC的编码阶段类似, LRC(K, M, Q)首先通过公式(1)将K个原始数据块编码成K+M个纠删编码块, 其中, K表示原始数据块(data chunk)的数量, M表示全局编码块(global code chunk)的数量. 在此基础上, LRC再将K个原数据块平均划分为两个局部编码组, 每个编码组通过子柯西编码矩阵分别计算出Q/2个局部编码块(local code chunk). 在丢失任意一个编码块的情况下, 不同于RSC至少需要K个编码块, LRC仅需要K/2个编码块即可恢复原始数据.

• 算法工作原理

在每轮迭代结束后, EDFL将生成唯一的合法区块; 每K轮迭代后, 对长度为K的区块链执行分区存储策略. 因此, 本文将K轮迭代定义为一个分区周期. 如算法2所示, 每K轮迭代结束时, 各个节点准备执行区块链分区存储策略. 为了保证分区结果的一致性, 如果节点的本地区块链副本没有j个区块, 该节点将从聚合者请求最新的区块链BC^(j)(第1−4行). 在初始化阶段, LRC(K, M, Q)将BC^(j)平均分割成K个原始数据块(第5行); 然后, 再通过基于柯西矩阵的编码器生成额外的M个全局编码块(第6行). 每个全局编码块均为所有数据块的线性组合, 因此可以视为任意一个数据块的冗余替换. 本文将{D₁, D₂, …, D_k, G₁, G₂, …, G_m}统一表达为K+M个编码块{C₁, C₂, …, C_k+m}, 以便于分区到各个节点上.

算法2. 区块链分区存储策略.

输入: LRC(K, M, Q), 区块链BC^(j), 编码块副本数量p, 节点索引i.

输出: 节点n_i本地存储的编码块集合$ \mathit{\Omega} _i^{(j)} $.

1. if (迭代轮数j mod K==0)

2.   if (BC^(j).height!=j)

3.        向聚合者请求最新区块链BC^(j);

4.    end if

5.    {D₁, D₂, …, D_k}=Split(BC^(j), K);

6.    {G₁, G₂, …, G_m}=GlobalEncode({D₁, D₂, …, D_k}, M);

7.    $ \mathit{\Omega} _i^{(j)} $=Partition({C₁, C₂, …, C_k+m}, i, p);

8.    if (GetAssignRole(n_i)==A) //A表示聚合者

9.     {L₁, L₂, …, L_q}=LocalEncode({D₁, D₂, …, D_k}, Q);

10.   end if

11. end if

12. if (节点n_i使用$ \mathit{\Omega} _i^{(j)} $准备恢复原始数据)

13. 向聚合者请求{L₁, L₂, …, L_q};

14. if ($ \mathit{\Omega} _i^{(j)} $不能恢复原始数据)

15.     根据贡献度排名依次向其他节点请求余下的(KpQ)个数据块;

16.    end if

17.    if ($ \mathit{\Omega} _i^{(j)} $不能恢复原始数据)

18.     根据贡献度排名依次向其他节点请求余下的M个编码块;

19.    end if

20.   {D₁, D₂, …, D_k}=Decode($ \mathit{\Omega} _i^{(j)} $);

21.   BC^(j)=Merge({D₁, D₂, …, D_k});

22. end if

为了提高分区存储后的容错性和可恢复性, 一种有效的方法是为每个编码块引入p个副本. 在全局编码进程结束后, 每个节点都保存有完整的编码块集合{C₁, C₂, …, C_k+m}(第6行). 本文提出一种编码块均匀分配方法, 以减少节点的本地存储消耗. 每个节点n_i仅需要保留完整编码块的子集, 其最终存储的编码块集合$ \mathit{\Omega} _i^{(j)} $通过公式(5)计算可得(第7行). 其中, 分区因子F_δ是p个不同的正整数(δ∈[1, p]), 用于控制p×(K+M)个编码块能够被均匀地分布到N个节点上. 为了提高数据恢复的效率, 分区因子F_δ的分布应当尽可能地均匀, 以确保每个节点存储的编码块分别来自两个局部编码组. 本文利用公式(4)计算分区因子F_δ, 其中, h_δ表示当前最新区块哈希值的第δ位.

$ {F_\delta } = \left\{ {\begin{array}{*{20}{l}} {{h_\delta }{\text{ }}\bmod {\text{ }}(N/2),{\text{ }}\delta \in [1,{\text{ }}p/2]} \\ {N - {F_{(\delta - p)}},{\text{ }}\delta \in (p/2,{\text{ }}p]} \end{array}} \right. $

(4)

$ \mathit{\Omega} _i^{(j)} = \{ {C_\gamma }|\gamma = (i + {F_\delta }){\text{ }}\bmod {\text{ }}N + (j \times N),\delta \in [1,{\text{ }}p]\} $

(5)

在经过分区存储后, 每个编码块将被分发到p个不同的节点, 每个节点将在本地存储p个不同的编码块. 为了更好地利用LRC具有高恢复效率的特性, 本文选择将局部编码块存储在聚合者本地, 以便其他节点快速恢复原始数据(第8−11行). LRC将数据块均匀地划分成两个分组, 分别使用柯西矩阵对两个分组进行局部纠删编码: {L₁, L₂, …, L_q/2}表示第1个分组{D₁, D₂, …, D_k/2}的局部编码块, {L_(q/2)+1, L_(q/2)+2, …, L_q}表示第2个分组{D_(k/2)+1, D_(k/2)+2, …, D_k}的局部编码块.

如图 4给出的示例, 当网络中存在6个参与节点时(即N=6), 使用LRC(4, 2, 2)对数据进行分割和纠删编码(K=4, M=2, Q=2). 每个编码块引入3个副本(p=3)并配合均匀分配方法, 使得各个节点在本地保留3个不同的编码块(聚合者将保留额外的2个局部编码块), 这能够显著地提高原数据的恢复效率(第12 −22行). 如图 4所示, 通过对应的分区因子F和本轮中分配到的角色, 节点n₃本地存储的编码块$ \mathit{\Omega} _3^{(j)} $能够根据其索引计算得出.

• 算法时间复杂度分析

为了减少节点的本地存储消耗, 本文在EDFL中集成了多副本的LRC纠删编码分区策略. 该分区存储策略可以将节点的本地存储消耗从O(K)降低至O(1), 并且拥有更高的数据恢复效率. 该分区存储策略在分区存储过程中的时间复杂度为O(1), 在数据恢复过程中的时间复杂度为O(K+M), 其中, K表示原始数据块的数量, M表示冗余数据块的数量.

5.2 角色自适应奖励算法

作为一种基于数据联邦的分布式机器学习范式, FL可以实现多终端并发的机器学习模型训练. 由于面向大数据的异构网络具有数据匿名性的特点, 因此无法保证分布式环境中所有参与节点都是可靠的. 传统FL框架不具备恶意行为的检测机制, 这将导致全局模型容易遭受部分恶意节点的攻击而最终表现出较低的预测性能. 在BFL系统中, 设计合适的挖矿奖励函数, 能够有效地激励节点上传合法的模型更新参数. 作为对全局模型贡献的量化评估, 累计奖励数值的高低, 间接地反映了该节点的合法性. 在EDFL中, 不同于传统的单一挖矿奖励模式, 本文提出了一种基于角色工作强度的自适应奖励算法.

(1) 训练者的奖励

在EDFL中, 训练者是FL系统中的重要组成部分, 经过其训练后的参数, 将直接影响全局模型的预测性能. 因为不同节点的本地数据样本质量参差不齐, 使用低质量或者恶意的模型参数去更新全局模型, 可能会造成预测准确度的严重下降. 因此, 分配给训练者的奖励应根据其上传参数的合法性和训练强度共同决定.

如公式(6)所示, 训练者t_x在第j轮迭代中获得的预期奖励, 将基于其数据集大小和训练轮数计算得到. 在经过去中心化参数验证后, t_x上传参数的验证结果$ PT(P_x^{(j)}) $由委员会验证并记录在区块链上. 因此, 训练者t_x最终是否能够获得其预期奖励$ r_x^{(j)} $, 取决于其上传参数的合法性验证结果$ PT(P_x^{(j)}) $. 在公式(6)中, s_x表示t_x的本地数据集大小, epochs表示t_x的训练轮数, 奖励单元$ \hat r $是一个超参数:

$ r_x^{(j)} = \left\{ {\begin{array}{*{20}{l}} {|{s_x}| \times |epochs| \times \hat r,{\text{ }}PT(P_x^{(j)}) \geqslant 0.5} \\ {0,{\text{ }}PT(P_x^{(j)}) < 0.5} \end{array}} \right. $

(6)

(2) 评估者的奖励

去中心化参数验证对于EDFL的可靠运行是至关重要的, 它确保全局模型能够在一定周期内进行良性迭代. 与训练者工作内容不同, 评估者使用代理评估方式来评估接收到的模型参数. 评估者仅需使用私有数据集对本地模型训练一个epoch, 以模拟合法训练者使用本地数据集训练全局模型后会表现出的合理下降^[3]. 此外, 给予验证者e_y的奖励$ r_y^{(j)} $还将基于该节点在委员会中投票的时间顺序. 这不仅缓解了聚合者参数验证进程中的阻塞问题, 而且提高了评估者执行交叉评估的并行效率. 如算法1所示, VQ是一个存储所有评估者投票顺序的队列, 其由聚合者维护并记录在区块链中. 根据投票的索引值, $ r_y^{(j)} $利用公式(7)进行求取.

$ r_y^{(j)} = \sum\nolimits_i^{|T|} {\frac{{|VQ| - VQ.FetchIndex({v^{(j)}}(y,i))}}{{|VQ|}}} \times |{s_y}| \times \hat r $

(7)

(3) 聚合者的奖励

与传统区块链中的激励机制不同, EDFL不采用矿工间的竞争机制来生成区块, 而是在每轮迭代结束时, 由聚合者将本轮生成的中间结果打包并上链. EDFL给予聚合者较低的奖励值, 一方面因为聚合者的任务是低工作强度的, 其工作不包括模型参数的训练和评估; 另一方面, 给予聚合者较低的奖励有助于验证委员会中节点的流动性. 考虑到聚合者的运算和存储开销主要来自对参数验证哈希表PT和评估者投票队列VQ的维护, 因此, 其奖励$ r_x^{(j)} $利用公式(8)进行计算.

$ r_a^{(j)} = |PT| \times |VQ| \times \hat r $

(8)

综上所述, EDFL为训练者、评估者、聚合者设置了自适应的奖励算法, 反映了其不同角色的工作量. 如图 3所示, 从训练者到聚合者, 分配对应角色的具体节点数量呈逐渐减少的趋势(|T| > |E| > |A|=1). 因此, 为了确保所有参与节点能够在不同角色间进行有效切换, EDFL应当为3种角色设置依次递减的奖励函数.

6 实验结果与分析 6.1 实验设置

本文所提EDFL框架与最主流的BFL框架(VBFL^[3])保持相同的实验环境和可比性, 基于IBM区块链实现了EDFL框架, 在此基础上集成了LevelDB用于数据持久化. EDFL中的算法基于Python 3.7的异步编程范式实现, 采用基于SHA-256的非对称加密算法对网络中的消息进行签名和验证. 本文实现了基于柯西矩阵的LRC纠删编码方法, 包括一个基于有限域上的编码器和解码器.

本文实验采用联邦学习中常用的基准测试数据集FEMINIST^{[3, 7]}, 用于实现一个分布式环境下的图像分类任务. FEMINIST包含62种不同字符的灰度图片, 图片大小为28×28像素, 样本数为805 263. 以下部分, 本文将采用联邦学习效率来评估不同FL框架在FEMINIST分类任务下的工作效率, 其包括全局模型训练效率和区块生成效率两个部分. 其中, 全局模型训练效率的定义为FL框架经过一定迭代轮数的训练后, 全局模型的预测准确率. 预测准确率是指模型在运行完一次FEMINIST测试集后所表现出的准确率(ACC). 区块生成效率的定义为: FL框架在完成一次全局模型迭代, 并在区块链上生成新区块所需要的时间(s).

本文实验选用Vanilla FL^[1]、VBFL^[3]和EDFL这3种FL框架进行对比. 其中, Vanilla FL作为Google提出的FL原型框架, 是目前所有FL框架的实现基础; VBFL是目前综合综合性能最优的FL框架, 具有较高的理论研究价值和优秀的实验性能表现. 所有实验都运行在配备了英特尔至强W-2245 3.90 GHz CPU、英伟达RTX3090 GPU、64 GB RAM的服务器上, 网络带宽为1 GB/s. 对于FL模型训练, 设置了与Vanilla FL^[1]和VBFL^[3]相同的实验环境, 模拟了20个分布式节点(14个训练者、5个评估者、1个聚合者)的FL任务. 整个FEMNIST数据集以独立同分布的方式随机分配给20个节点. 每个节点使用MNIST_CNN^[1]网络来训练本地模型, 聚合者使用FedAvg^[1]方法来聚合合法的模型参数. FL模型训练中的学习率(learning rate)设置为0.01、批大小(batch size)设置为10、epoch设置为5. 此外, 通过设置一定比例的恶意节点来评估系统的安全性, 恶意行为包括向模型中注入方差为1的高斯噪声、投票结果取反、在分区恢复过程中拒绝响应其他节点的请求. 所有实验执行3次, 将所有实验结果的平均值作为最终实验结果.

6.2 联邦学习效率

为了评估不同FL框架的学习效率, 本文将高效的FL框架定义为能够使用更少的迭代轮数训练出具有更高预测性能的全局模型. 因此, 本节主要围绕全局模型预测性能和区块生成效率两个方面进行实验分析.在以下实验中, 将在每个FL框架中分别随机注入5%和15%的恶意节点, 验证去中心化异步验证机制的有效性.

6.2.1 全局模型训练效率

考虑到分布式环境中可能存在的恶意行为, 提出了一种去中心化验证机制来评估各个节点上传模型参数的合法性. 验证委员会对训练者上传的参数进行交叉评估, 以提高FL全局模型的鲁棒性.

如图 5所示, 本文在100轮迭代中进行了12组实验, 并记录下每轮迭代结束时, 全局模型在FEMNIST数据集下的预测准确率ACC.

如图 5(a)所示, 在20个参与节点均为合法节点的情况下, 3种FL框架训练出的全局模型均表现出了良好的预测性能. 在第20轮迭代结束时, 3种框架的全局模型均实现了95%以上的预测准确率, 但是三者却有着不同的收敛效率. 对于Vanilla FL, 因为网络中的所有节点都参与了模型训练, 所以在不存在恶意节点的情况下, 它拥有最好的FL学习性能. 对于VBFL, 它通过矿工间的竞争机制来生成新的区块. 这种方法虽然提高了系统的安全性, 但也使得更多的合法节点去争夺区块链的记账权而不是进行模型训练. 因此, VBFL在全局模型更新中消耗了一部分节点的算力, 从而表现出较低的FL学习效率. 相比之下, EDFL综合考虑了模型训练准确性和系统鲁棒性两个方面. 基于贡献度证明的委员会共识机制, 使得区块生成过程变得更加高效, 不依赖设备的算力而是基于节点的历史贡献度来生成合法区块. 如图 5(a)所示, 相比于VBFL, EDFL在不存在恶意节点的情况下, 全局模型准确率更接近Vanilla FL. 其略差于Vanilla FL的原因在于, 网络中的所有节点都参与了模型训练, 而VBFL和EDFL中的部分节点用于分布式模型参数的验证.

此外, 在网络中存在恶意节点的情况下, 得益于模型参数验证机制, EDFL和VBFL中, 全局模型的预测性能相较于Vanilla FL都存在着明显的优势. 从图 5(b)可以观察到, 随着训练轮数的增加, EDFL表现出更好的稳定性. 因为EDFL在前10轮迭代中就能有效地识别出恶意节点, 并使它们的贡献度始终维持在一个较低的水平. 这使得验证委员会可以更加高效地辨别出合法的模型参数并将其传递给聚合者, 减少了恶意节点对全局模型的负面影响. 并且当网络中恶意节点的比例增加时, EDFL的去中心化异步验证机制能够更加有效地提高全局模型的训练效率和鲁棒性. 对比图 5(b)和图 5(c)可以得出, 当恶意节点的比例从5%增加至15%, EDFL经过相同迭代轮数的训练后, 其全局模型预测准确率(ACC)均高于VBFL. 此外, 通过纵向对比同一框架(恶意节点比例为5%)的实验数据发现, EDFL(恶意节点比例为15%)在第100轮迭代结束时的ACC仅下降了8.65%, 而VBFL(恶意节点比例为15%)则下降了16.61%. 这表明, 基于贡献度证明共识的验证委员会能够在恶意节点的数量增加时, 实现更高的鲁棒性, 使得EDFL仍保持着较高的全局模型训练效率.

本文还对比了相同恶意节点比例在不同参与节点数量下的全局模型训练效率. 对比图 5(c)和图 5(d)可以得出, 当网络中的参与方数量增加时, VBFL的挖矿竞争机制导致更多的节点参与了区块生成任务, 而未进行模型训练任务. 这使得VBFL在40个参与节点的情况下的训练效率远低于EDFL. 从图 5(d)可以看出, 经过相同轮数的迭代后, EDFL能够训练出具有更高ACC的全局模型. 此外, 通过纵向对比同一框架(节点数量为20)的实验数据发现: 因为EDFL采用了基于贡献度的共识机制和异步的模型参数验证方法, 能够在参与节点增加的情况下缓解去中心化验证进程中的阻塞问题, 进而有效地提高了全局模型的训练效率.

6.2.2 区块生成效率

评估联邦学习效率的第2项工作是分析EDFL中的区块生成效率, 其中包括参数验证效率和参数聚合效率两个部分. 首先, 本文将验证去中心化异步验证机制的有效性, 并记录下两种FL框架在第0、25、50、75、100轮中的参数验证时间.

如图 6所示, EDFL的验证时间约为VBFL的0.31倍. 因为VBFL没有对分布式验证机制进行优化, 每轮迭代中都将产生|T|×|E|次参数评估过程. 相比之下, EDFL采用了非阻塞的异步验证机制, 它能够忽略一部分非必要的参数评估过程, 并实现等效的合法性验证. 得益于贡献度证明共识机制, 随着系统的持续运行, EDFL的验证时间将不断减少. 具体来说, 第25轮验证时间比第0轮低46.1%, 因为在第25轮中, 验证委员会基于节点的贡献度能够很容易地识别出网络中的恶意节点, 进一步提高了去中心化验证过程的效率.

在参数聚合过程中, VBFL采用基于竞争的共识机制, 要求矿工们相互竞争来获取每轮迭代中的出块权.如图 6所示, 在每一轮迭代中, VBFL需要3名矿工(因为其相比于EDFL, VBFL采用基于竞争的共识机制来实现更高的安全性, 但是会产生3倍的聚合时间)挖掘出属于自己的区块并参与竞争. 然后, 竞争成功的节点将丢弃剩余的2个区块. 与之不同, EDFL采用基于贡献度的共识机制, 在每轮迭代开始时选择具有最高贡献度的节点作为聚合者, 这将极大地减少区块生成过程中由于挖矿竞争所造成的额外聚合延迟.

除此之外, 如果某个节点在验证委员会中被累计标记为恶意超过6轮, 那么它将被添加到各节点的本地黑名单中. 如图 6所示, 随着迭代轮数的增加, EDFL的聚合时间呈现出逐渐下降的趋势. 这是因为在第25轮及以后的迭代中, 聚合者根据本地存储的黑名单, 仅需维护具有更小存储容量的PT和VQ. 此外, 角色自适应激励算法能够提高EDFL的安全性, 确保每轮迭代中的区块生成者可以进行有效地轮换, 并实现更高的去中心化. EDFL的角色自适应奖励算法将在第6.4节中进行详细的实验分析.

6.3 存储可扩展性

本节将评估EDFL在存储可扩展性方面的性能. 为了验证区块链分区存储策略的有效性, 分别从存储消耗和恢复时间两个方面对3种存储策略(全复制、RSC编码、LRC编码)进行对比. 因为RSC编码与LRC编码对于非聚合者节点的存储策略是相同的, 所以在图 7(a)中仅分析具有差异性的聚合者本地存储消耗. 此外, 设置了3种不同的LRC(K, M, Q)参数并进行了实验分析, 反映了EDFL在本地存储消耗和数据恢复时间之间进行取舍. 所有的分区存储实验都是在每个编码块拥有3个副本的情况下进行的(p=3, 类似于Hadoop^[24]中默认的三副本存储策略). 因为引入更多的副本数量将实现更高的容错性和恢复效率, 但会线性地增加节点的本地存储消耗, 所以将不会针对不同的p副本数量进行额外的实验.

如第3节中所述, EDFL中每轮生成区块的内容主要由3部分组成: 训练者上传的模型参数、评估者的投票集合以及聚合者的聚合结果. 如图 7(a)中的第0轮所示, 每个区块的容量大小在4.6−5.2 MB之间. 在传统的全复制策略下, 节点的本地存储消耗随着迭代轮数的增加而线性增加, 因为每个节点均在本地保留了完整区块链的副本. 与之相比, EDFL采用分区存储策略, 每个参与设备上仅需要存储p个不同的纠删编码块(聚合者需要存储额外的局部编码块). 如图 7(a)所示, 随着迭代次数的增加, 区块链分区存储策略在存储可扩展性方面的优势相较于全复制策略在逐渐增大. 在第100轮结束时, 采用LRC(10, 10, 2)纠删编码方法的本地存储消耗相比采用全复制策略下降了51.2%. 与RSC(10, 10)编码相比, 在第100轮结束时, 采用LRC(10, 10, 2)编码的本地存储消耗将提升1.65倍. 因为LRC(10, 10, 2)编码在聚合者本地保留了额外的2个局部编码块, 使得它能够在数据恢复阶段更快地恢复原始数据. 此外, 具有更长分区周期K的LRC编码能够实现更小的本地存储消耗, 因为每个编码块所占的存储容量更小. 例如, 采用LRC(15, 5, 2)编码的本地存储容量相较于LRC(10, 10, 2)平均下降了32.8%. 但是在数据恢复阶段, 因为前者拥有更大的K值, 所以需要请求更多的编码块用于恢复原始数据.

由上述可知, 采用区块链分区存储策略的系统相较于传统的全复制策略在存储可扩展性方面表现出了显著的优势, 但是它需要花费额外的时间来进行原数据的恢复. 对于图 7(b)中的4种不同纠删编码方案, 因为K值的不同, 它们的第1次分区操作分别发生在第10轮和第15轮迭代结束时, 所以在第0轮结束时, 4种方案均采用全复制策略, 节点间不会发送数据恢复请求, 所以不会产生恢复延迟. 在25轮之后, 所有的方案将请求不同的编码块来执行数据恢复进程. 其中, LRC在聚合者本地保存了额外的局部编码块, 它能够有效减少恢复请求中消息的转发次数. 并且在收集到足够的数据块后, 能够执行效率更高的局部解码进程. 如图 7(b)所示, 3种LRC编码方案相较于RSC编码在数据恢复效率上均存在着一定的优势. 在第100轮结束时, LRC(10, 10, 2)编码的恢复时间比RSC(10, 10)下降了32.8%. 如上文所述, 如果LRC编码选择在本地保留更多的局部编码块(例如LRC(10, 10, 4)编码方案), 它的数据恢复效率将进一步提高. 此外, 具有更长分区周期的LRC(15, 5, 2)编码方案在数据恢复阶段需要请求更多的编码块, 所以相较于LRC(10, 10, 2), 需要花费更长的恢复时间.

综上所述, 区块链分区存储策略能够显著降低FL参与节点的本地存储消耗, 但是它需要花费额外的时间去恢复原始数据. 如果想要提高数据的恢复效率, 可以适当调低LRC(K, M, Q)编码中的参数K并调高参数Q, 同时也会增加系统的存储消耗, 所以, 分区存储策略需要根据具体的实际应用进行参数调整.

6.4 安全性

在本节中, 将分析两种FL框架的奖励算法在恶意节点识别有效性和去中心化程度两个方面的性能. 如图 8所示, EDFL的角色自适应奖励算法能够有效地识别出网络中的恶意节点. 经过100轮迭代后, 3个恶意节点(n₃, n₅, n₈)所获得的累计奖励均保持在一个较低的水平, 它们与拥有最低奖励的合法节点(n₁₆)之间仍保持着平均9.54倍的差距, 这使得恶意节点能够更明显地被检测出来并加入其他节点的黑名单中. 相比之下, 因为没有采用基于贡献度证明的委员会共识机制, VBFL中部分的恶意节点(n₅)依然能够在参数验证过程中获得奖励. 此外, 因为VBFL在分布式参数验证过程中的验证结果仅基于投票的数量而并未引入节点贡献度作为投票的权值, 使得恶意的评估者在验证阶段蓄意地将部分合法节点(n₁₉)的训练工作评价为不合法的, 从而出现合法节点被提前加入黑名单的情况.

为了更加具体地分析累计奖励对于系统安全性的影响, 本文使用两种评价指标来衡量两种FL框架中各节点的奖励分布. 本文定义标准差s为累计奖励排名前三的节点的奖励数值的标准差. 在每轮迭代中, 标准差s反映了系统能否有效地进行区块生成者的轮换. 如图 8所示, 若一个系统拥有较高的标准差s, 表明该系统中存在中心节点的可能性更大. 一旦某个节点能够在连续数轮迭代, 可预期地当选为区块的生成者, 会使得系统中的共识结果受到“non-democracy side effect”影响^[25], 这违背了区块链的去中心化特性. 例如, 持有过高奖励的节点连续且可预期地独占区块链中的记账权, 那么在该系统中发生中心节点被攻击或者成为恶意节点的可能性将大大增加. 该系统将面临与主从架构相同的安全性问题, 使得聚合者容易遭受外部攻击, 或者独占区块的生成权利, 从而导致FL中的全局模型无法被及时且合法地更新.

对于恶意节点识别的有效性, 本文定义区分度λ为3个拥有最低奖励的合法节点累计奖励的几何平均数与3个恶意节点累计奖励的几何平均数之间的比值, 其量化了合法节点和恶意节点之间的可区分性. 如图 9(b)所示, 拥有较高区分度λ的FL框架能够在系统运行的前期有效地识别出网络中的恶意节点, 并将其列入黑名单. 这同样解释了图 5中EDFL比VBFL拥有更高的FL学习准确率的原因, 因为EDFL的验证委员会能够在前10轮迭代结束时识别出全部的恶意节点, 并在后续的迭代中显著降低其对全局模型的负面影响. 综上所述, 如图 9所示, EDFL拥有着更低的标准差s (平均为VBFL的0.12倍)以及更高的区分度λ (平均为VBFL的5.91倍). 这表明, EDFL相较于VBFL, 在去中心化程度和恶意节点识别有效性方面存在着显著优势.

7 结论与展望

在大数据背景下, 为了提高数据联邦中的学习效率并降低节点的本地存储消耗, 提出了一种高效的去中心化联邦学习框架EDFL. 首先, 提出了一种基于贡献度证明的委员会共识机制, 并集成了角色自适应奖励算法, 使得EDFL能够增强FL全局模型鲁棒性, 并提高全局模型的训练效率. 其次, 为了减少节点的本地存储消耗, 提出一种新的区块链分区存储策略, 通过多副本的LRC编码块均匀分区方法, 能够将本地存储消耗降低至常数水平, 并提升原始数据的恢复效率. 最后, 在真实的FEMNIST数据集上, 对EDFL的学习效率、存储可扩展性和安全性进行了评估实验. 结果表明, 与最先进的基于区块链的FL框架VBFL相比, EDFL能够在更低的系统消耗上实现更高的FL学习准确率. 同时, 所提出的角色自适应奖励算法在恶意节点识别和去中心化方面取得了更好的性能.

未来的工作包括: (1) 利用消息队列技术将去中心化参数验证机制扩展到多轮全局模型迭代, 进一步提高EDFL中参数验证进程的并发性; (2) 在验证委员会中引入聚合者工作的合法性评估方法, 进一步提高EDFL的安全性; (3) 设计一种纠删码流水线修复(repair pipelining)机制, 减少解码过程中数据恢复时间.

致谢 感谢所有参与本课题研究和本文工作但没有在文中署名的课题组成员以及对本项目提供技术支持的专家和学者; 感谢所有评阅本文的匿名评审人以及他们对本文提出的宝贵修改意见.