(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111266339.2 (22)申请日 2021.10.28 (71)申请人 支付宝 （杭州） 信息技 术有限公司 地址 310000 浙江省杭州市西湖区西溪路 556号8层B段801-1 1 (72)发明人 徐曦烈　吕灵娟　王维强　 (74)专利代理 机构 北京亿腾知识产权代理事务 所(普通合伙) 11309 代理人 陈霁　周良玉 (51)Int.Cl. G06F 21/62(2013.01) G06K 9/62(2022.01) G06N 20/00(2019.01) (54)发明名称 基于隐私保护防止模型被窃取的方法和装 置 (57)摘要 本说明书实施例提供了一种基于隐私保护 防止模型被窃取的方法和装置。 该方法的一具体 实施方式包括： 响应于确定第一用户为异常用 户， 将第一用户通过终端发送的至少一个预测请 求确定为目标预测请求； 针对各目标预测请求， 将其中包含的待预测数据输入预设的模型， 得到 上述待预测数据的原始分类结果， 其中， 上述原 始分类结果包括上述待预测数据属于各类别的 概率值， 其中最大概率值对应于第一类别， 最小 概率值对应于第二类别； 调整上述原始分类结果 中的概率值， 使得调整后， 第二类别的概率值增 大至满足预设条件， 且第一类别的概率值仍为最 大； 将调整后的分类结果发送给上述终端。 权利要求书2页 说明书10页 附图4页 CN 113961965 A 2022.01.21 CN 113961965 A 1.一种基于隐私保护防止模型被窃取的方法， 包括： 响应于确定第 一用户为异常用户， 将第 一用户通过终端发送的至少一个预测请求确定 为目标预测请求； 针对各目标预测请求， 将其中包含的待预测数据输入预设的模型， 得到所述待预测数 据的原始分类结果， 其中， 所述原始分类结果包括所述待预测数据属于各类别的概率值， 其 中最大概 率值对应于第一类别， 最小概 率值对应于第二类别； 调整所述原始分类结果中的概率值， 使得调整后， 第二类别的概率值增大至满足预设 条件， 且第一类别的概 率值仍为最大； 将调整后的分类结果发送给 所述终端。 2.根据权利要求1所述的方法， 其中， 所述将第 一用户通过终端发送的至少一个预测请 求确定为目标 预测请求， 包括： 接收第一用户发送的多个预测请求； 按照预设比例， 从所述多个预测请求中确定至少一个预测请求作为所述目标预测请 求。 3.根据权利要求2所述的方法， 其中， 所述方法还 包括： 对于所述多个预测请求中的、 除目标预测请求之外的其它各预测请求， 将所述模型针 对该预测请求输出的原 始分类结果发送给 所述终端。 4.根据权利要求2所述的方法， 其中， 所述方法还 包括： 根据所述第一用户发送的预测请求的数量， 动态调整所述预设比例。 5.根据权利要求1所述的方法， 其中， 所述第二类别的概率值增大至满足预设条件， 包 括： 第二类别的调整后概 率值相对于调整前概 率值增大预定比例或预定 差值。 6.根据权利要求1所述的方法， 其中， 所述第二类别的概率值增大至满足预设条件， 包 括： 第二类别的调整后概 率值为第二大概 率值。 7.根据权利要求6所述的方法， 其中， 所述调整所述原 始分类结果中的概 率值， 包括： 将所述第一类别和所述第二类别对应的调整后概率值分别设置为第一概率值和第二 概率值， 其中， 所述第一 概率值与所述第二 概率值的差值小于预设值。 8.根据权利要求7 所述的方法， 其中， 所述第一 概率值和第二 概率值之和为1。 9.根据权利要求7所述的方法， 其中， 所述第一概率值和第二概率值之和与1的差值为 第一差值； 所述调整所述原 始分类结果中的概 率值， 还包括： 将所述第一差值在除所述第一类别和第二类别之外的其 他类别中随机分配。 10.根据权利要求1或2所述的方法， 其中， 所述方法还 包括： 基于历史预测请求， 确定所述第一用户是否为异常用户。 11.根据权利要求10所述的方法， 其中， 所述基于历史预测请求， 确定所述第一用户是 否为异常用户， 包括： 判断所述第一用户历史发送的预测请求次数 是否超过 预设的次数阈值； 如果超过， 确定所述第一用户为异常用户。 12.根据权利要求10所述的方法， 其中， 所述基于历史预测请求， 确定所述第一用户是 否为异常用户， 包括： 获取所述第一用户历史发送的待预测数据组成的第一数据集 合；权　利　要　求　书 1/2 页 2 CN 113961965 A 2获取第二用户历史发送的待预测数据组成的第二数据集 合； 响应于确定所述第 二数据集合与 所述第一数据集合的数据分布一致， 将所述第 二用户 归入所述第一用户的关联用户； 确定所述第一用户和其各个关联用户历史发送的待预测数据的总和是否超过预设的 总次数阈值； 如果超过， 确定所述第一用户以及其各个关联用户为异常用户。 13.一种基于隐私保护防止模型被窃取的装置， 包括： 确定单元， 配置为响应于确定第一用户为异常用户， 将第一用户通过终端发送的至少 一个预测请求确定为目标 预测请求； 输入单元， 配置为针对各目标预测请求， 将其中包含的待预测数据输入预设的模型， 得 到所述待预测数据的原始分类结果， 其中， 所述原始分类结果包括所述待预测数据属于各 类别的概 率值， 其中最大概 率值对应于第一类别， 最小概 率值对应于第二类别； 调整单元， 配置为调整所述原始分类结果中的概率值， 使得调整后， 第 二类别的概率值 增大至满足预设条件， 且第一类别的概 率值仍为最大； 发送单元， 配置为将调整后的分类结果发送给 所述终端。 14.一种计算机可读存储介质， 其上存储有计算机程序， 当所述计算机程序在计算机中 执行时， 令计算机执 行权利要求1 ‑12中任一项所述的方法。 15.一种计算设备， 包括存储器和 处理器， 其特征在于， 所述存储器中存储有可执行代 码， 所述处 理器执行所述可执行代码时， 实现权利要求1 ‑12中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 113961965 A 3