(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111659352.4 (22)申请日 2021.12.3 0 (71)申请人 杭州趣链科技有限公司 地址 310000 浙江省杭州市西湖区文三路 199号13幢南楼5 01室 (72)发明人 谭锦志　匡立中　詹士潇　曾磊　 黄方蕾　 (74)专利代理 机构 北京超凡宏宇专利代理事务 所(特殊普通 合伙) 11463 代理人 张萍 (51)Int.Cl. G06F 9/50(2006.01) G06N 20/00(2019.01) H04L 67/1097(2022.01) (54)发明名称 基于区块链的去中心化联邦学习方法、 装置 和电子设备 (57)摘要 本发明提供了一种基于区块链的去中心化 联邦学习方法、 装置和电子设备， 涉及区块链的 技术领域， 包括： 根据各个客户端的数据集规模， 将多个客户端分为若干个组， 并确定组 内训练顺 序和组间训练顺序； 基于组内训练顺序， 对各组 内的客户端的初始全局模型进行 组内训练， 生成 每个组的标准更新梯度以及组内训练后的客户 端模型； 基于组间训练顺序， 将当前组的标准更 新梯度发送至下一个相邻组； 下一个相邻组的最 后一个客户端基于当前组的标准更新梯度进行 组间训练， 直至客户端全部训练完成， 生成目标 模型， 该方法解决了传统联邦学习方法中心化程 度高的技术问题， 达到了提高训练效率的技术效 果。 权利要求书2页 说明书9页 附图2页 CN 114327901 A 2022.04.12 CN 114327901 A 1.一种基于区块链的去中心化联邦学习方法， 其特征在于， 应用于区块链系统中的模 型训练发起节点， 所述方法包括： 根据各个客户端的数据集规模， 将多个所述客户端分为若干个组， 并确定组内训练顺 序和组间训练顺序； 所述客户端包括由区块链发送的初始全局模型； 每个所述客户端对应 一个区块链 节点； 基于所述组内训练顺序， 对各组内的所述客户端的初始全局模型进行组内训练， 生成 每个组的标准更新梯度以及组内训练后的客户端模型； 基于所述组间训练顺序， 将当前组的所述标准更新梯度发送至下一个相邻组； 下一个相邻组 的最后一个所述客户端基于所述当前组的标准更新梯度进行组间训练， 直至所述 客户端全部训练完成， 生成目标模型。 2.根据权利要求1所述的方法， 其特 征在于， 所述方法还 包括： 通过区块链将所述目标模型分享至所有客户端； 确定所述目标模型 是否收敛； 如果所述目标模型收敛， 则结束训练； 如果所述目标模型不收敛， 则重复执行上述组内训练和 组间训练的步骤， 直至目标模 型收敛。 3.根据权利要求2所述的方法， 其特征在于， 根据各个客户端的数据集规模， 将多个所 述客户端分为若干个组之前， 所述方法还 包括： 收集各个客户端的数据集初始规模； 根据数据集规模计算公式， 确定各个客户端更新后的数据集大小， 作为所述客户端的 数据集规模； 所述数据集 规模计算公式如下： D ′i＝Di*(1+Δ)； 其中Di为各个客户端真实数据集大小， Δ为闭区间[ ‑0.2,0.2]之间的随机数， Di'为各 个客户端计算后的数据集 规模。 4.根据权利要求1所述的方法， 其特征在于， 根据各个客户端的数据集规模， 将多个所 述客户端分为若干个组， 包括： 根据数据集 规模期望公式计算各组期望数据集 规模； 基于各组期望数据集规模， 将若干个所述客户端进行分组， 以满足各组间的数据集规 模的差值在第一预设范围之内； 所述数据集 规模期望公式如下： 其中， N为分组数， K为 客户端个数。 5.根据权利要求1所述的方法， 其特征在于， 基于所述组内训练顺序， 对各组内的所述 客户端的初始全局模型进 行组内训练， 生成每个组的标准更新梯度以及组内训练后的客户 端模型， 包括： 基于所述组内训练顺序， 同时对各组内的第一个客户端的初始全局模型进行训练， 并 分别生成第一更新梯度以及组内训练后的第一 客户端模型； 根据各组内的第二个客户端的公钥， 分别将所述第一更新梯度加密； 将加密后的所述第一更新梯度发送至各组内的第二个客户端； 根据各组内的第二个客户端的私钥， 分别对加密后的所述第一更新梯度进行解密；权　利　要　求　书 1/2 页 2 CN 114327901 A 2基于解密后的所述第一更新梯度， 更新各组内的第二个客户端的初始全局模型， 并对 更新后的所述各组内的第二个客户端的初始全局模型进行训练， 分别生成第二更新梯度以 及组内训练后的第二 客户端模型。 6.根据权利要求5所述的方法， 其特 征在于， 所述方法还 包括： 基于所述组内训练顺序， 将各组加密后的所述第一更新梯度存 储于第一区块； 基于所述组内训练顺序， 将各组加密后的所述第二更新梯度存 储于第二区块。 7.一种基于区块链的去中心化联邦学习装置， 其特 征在于， 包括： 第一确定模块， 用于根据 各个客户端的数据集规模， 将多个所述客户端分为若干个组， 并确定组内训练顺序和组间训练顺序； 所述客户端包括由区块链发送的初始全局模型； 每 个所述客户端对应一个区块链 节点； 第一生成模块， 用于基于所述组内训练顺序， 对各组内的所述客户端的初始全局模型 进行组内训练， 生成每 个组的标准更新梯度以及组内训练后的客户端模型； 第一发送模块， 用于基于所述组间训练顺序， 将当前组的所述标准更新梯度发送至下 一个相邻组； 第二生成模块， 用于下一个相邻组 的最后一个所述客户端基于所述当前组的标准更新 梯度进行组间训练， 直至所述 客户端全部训练完成， 生成目标模型。 8.根据权利要求7 所述的装置， 其特 征在于， 所述装置还 包括： 分享模块， 用于通过区块链将所述目标模型分享至所有客户端； 第二确定模块， 用于确定所述目标模型是否收敛； 如果所述目标模型收敛， 则结束训 练； 如果所述目标模型不收敛， 则重复执行上述组内训练和 组间训练的步骤， 直至目标模 型收敛。 9.一种电子设备， 包括存储器、 处理器， 所述存储器中存储有可在所述处理器上运行的 计算机程序， 其特征在于， 所述处理器执行所述计算机程序时实现上述权利要求1至6任一 项所述的方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质存储有机器可运 行指令， 所述计算机可运行指令在被处理器调用和运行时， 所述计算机可运行指令促使所 述处理器运行 所述权利要求1至 6任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 114327901 A 3