(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111333252.2 (22)申请日 2021.11.11 (71)申请人 杭州海康威视数字技 术股份有限公 司 地址 310051 浙江省杭州市滨江区阡 陌路 555号 (72)发明人 王滨　王星　张峰　王伟　钱亚冠　 (74)专利代理 机构 北京博思佳知识产权代理有 限公司 1 1415 代理人 王茹 (51)Int.Cl. G06F 21/62(2013.01) G06N 20/00(2019.01) (54)发明名称 基于参数压缩的面向联邦学习隐私推理攻 击的防御方法 (57)摘要 本申请提供一种基于参数压缩的面向联邦 学习隐私推理攻击的防御方法， 该方法包括： 依 据目标客户端的本地模型参数在训练前后的差 异， 确定所述目标客户端的本地模 型参数中的目 标参数， 以对隐私推理攻击进行防御； 确定所述 目标客户端的压缩模型参数； 依据所述目标客户 端的压缩模型参数， 确定全局模型参数。 该方法 可以在保证全局模型的准确性的情况下， 保护客 户端的本地私有数据特征， 实现针对隐私推理攻 击的防御。 权利要求书2页 说明书11页 附图4页 CN 114239049 A 2022.03.25 CN 114239049 A 1.一种基于参数压缩的面向联邦学习隐私推理攻击的防御方法， 其特 征在于， 包括： 依据目标客户端的本地模型参数在训练前后的差异， 确定所述目标客户端的本地模型 参数中的目标参数； 其中， 所述 目标客户端的本地模型参数中的目标参数在训练前后的差 异， 大于所述目标客户端的本地模型参数中的非目标参数在训练前后的差异； 确定所述目标客户端的压缩模型参数， 所述压缩模型参数中的目标参数采用所述目标 客户端训练后的本地模型参数中的目标参数， 所述压缩模型参数中的非目标参数采用所述 目标客户端训练前的本地模型参数中的非目标参数， 以对隐私推理攻击进行防御； 依据所述目标客户端的压缩 模型参数， 确定全局模型参数。 2.根据权利要求1所述的方法， 其特 征在于， 当所述方法应用于中心参数服 务器时， 所述依据目标客户端的本地模型参数在训练前后的差异， 确定所述目标客户端的本地 模型参数中的目标参数， 包括： 向各客户端下发全局模型参数； 接收所述目标客户端上报的本地模型参数； 以所述全局模型参数为所述目标客户端训练前的本地模型参数， 以接收到的所述目标 客户端上报的本地模型参数为所述目标客户端训练后的本地模型参数， 确定所述目标客户 端的本地模型参数在训练前后的差异； 依据所述目标客户端的本地模型参数在训练前后的差异， 确定所述目标客户端的本地 模型参数中的目标参数。 3.根据权利要求1所述的方法， 其特 征在于， 当所述方法应用于客户端时， 所述依据目标客户端的本地模型参数在训练前后的差异， 确定所述目标客户端的本地 模型参数中的目标参数， 包括： 接收中心参数服 务器下发的全局模型参数； 以所述全局模型参数为训练前的本地模型参数， 对本地模型进行训练， 得到训练后的 本地模型参数； 依据本地模型参数在训练前后的差异， 确定 本地模型参数中的目标参数。 4.根据权利要求3所述的方法， 其特征在于， 所述依据所述目标客户 端的压缩模型参 数， 确定全局模型参数， 包括： 将所述压缩模型参数上报至中心参数服务器， 以使所述中心参数服务器依据接收到的 各客户端上报的压缩 模型参数， 确定最 新的全局模型参数。 5.根据权利要求1所述的方法， 其特征在于， 所述依据目标客户端的本地模型参数在训 练前后的差异， 确定所述目标客户端的本地模型参数中的目标参数， 包括： 确定所述目标客户端的本地模型参数中各参数在训练前后的差值； 依据各参数在训练前后的差值的绝对值， 将训练前后的差值的绝对值前K大的参数确 定为目标参数， K为 正整数。 6.根据权利要求1所述的方法， 其特征在于， 所述依据目标客户端的本地模型参数在训 练前后的差异， 确定所述目标客户端的本地模型参数中的目标参数， 包括： 对于所述目标客户端的本地模型任一层模型参数， 确定该层模型参数中各参数在训练 前后的差值； 依据该层模型参数中各参数在训练前后的差值的绝对值， 将训练前后的差值的绝对值权　利　要　求　书 1/2 页 2 CN 114239049 A 2前K大的参数确定为目标参数， K为 正整数。 7.根据权利要求1所述的方法， 其特征在于， 所述依据目标客户端的本地模型参数在训 练前后的差异， 确定所述目标客户端的本地模型参数中的目标参数， 包括： 对于所述目标客户端的本地模型任一层模型参数的任一模型参数分量， 确定该模型参 数分量中各参数在训练前后的差值； 依据该模型参数分量中各参数在训练前后的差值的绝对值， 将训练前后的差值的绝对 值前K大的参数确定为目标参数， K为 正整数。 8.根据权利要求5 ‑7任一项所述的方法， 其特征在于， K依据预设压缩率以及参与排序 的参数数量确定 。 9.根据权利要求1所述的方法， 其特 征在于， 当所述方法应用于中心参数服 务器时， 所述依据目标客户端的本地模型参数在训练前后的差异， 确定所述目标客户端的本地 模型参数中的目标参数之前， 还 包括： 对全局模型进行 预训练， 得到预训练后的全局模型参数； 将所述预训练后的全局模型参数下发至各客户 端， 作为各客户端的初始本地模型参 数。权　利　要　求　书 2/2 页 3 CN 114239049 A 3