(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210249638.3 (22)申请日 2022.03.14 (71)申请人 特斯联科技 集团有限公司 地址 101100 北京市通州区滨惠北一 街3号 院1号楼1- 6室 (72)发明人 张睿　邹游　张先福　 (74)专利代理 机构 北京辰权知识产权代理有限 公司 11619 专利代理师 刘广达 (51)Int.Cl. G06V 10/44(2022.01) G06V 10/764(2022.01) G06V 10/82(2022.01) G06K 9/62(2022.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 一种解决数据域间差异的神经网络模型训 练方法及装置 (57)摘要 本申请涉及一种解决数据域间差异的神经 网络模型训练方法及装置。 其中， 所述方法包括： 获取数据域间差异的源域数据集和目标域数据 集； 通过源域数据集对骨干网络模型进行预训 练， 得到数据域间差异的预训练骨干模型； 根据 目标域数据集、 预训练骨干模型、 全连接网络和/ 或激活器， 获取数据域间差异的源域模型和目标 域模型； 根据目标域数据集、 源域模型和目标域 模型， 获取数据域间差异的评估结果； 根据源域 数据集、 目标域数据集、 骨干网络模型和评估结 果， 得到数据域间差异的最终模型。 本申请能够 评估源域数据集和目标域数据集的域间差异， 能 够使得所述最终模型的输出结果的域间差异问 题得到缓解。 权利要求书2页 说明书14页 附图5页 CN 114677521 A 2022.06.28 CN 114677521 A 1.一种解决数据域间差异的神经网络模型训练方法， 其特 征在于， 包括以下步骤： 获取数据域间差异的源域数据集和目标域数据集； 通过所述源域数据集对骨干网络模型进行预训练， 得到数据域间差异的预训练骨干模 型； 根据所述目标域数据集、 所述预训练骨干模型、 全连接网络和/或激活器， 获取数据域 间差异的源域模型和目标域模型； 根据所述目标域数据集、 所述源域模型和所述目标域模型， 获取数据域间差异 的评估 结果； 根据所述源域数据集、 所述目标域数据集、 所述骨干网络模型和所述评估结果， 得到数 据域间差异的最终模型。 2.根据权利要求1所述的神经网络模型训练方法， 其特征在于， 根据所述目标域数据 集、 所述预训练骨干模型、 全连接网络和/或激活器， 获取数据域间差异的目标域模型， 包 括： 根据所述预训练骨干模型， 构建数据域间差异的下游任务骨干网络模型； 根据所述目标域数据集、 所述下游任务骨干网络模型、 全连接网络和激活器， 得到数据 域间差异的目标域模型。 3.根据权利要求2所述的神经网络模型训练方法， 其特征在于， 根据所述目标域数据 集、 所述预训练骨干模型、 全连接网络和/或激活器， 获取 数据域间差异的源域模型， 包括： 根据所述预训练骨干模型、 所述全连接网络、 所述激活器和所述目标域模型， 得到数据 域间差异的所述源域模型。 4.根据权利要求1所述的神经网络模型训练方法， 其特征在于， 根据所述目标域数据 集、 所述预训练骨干模型、 全连接网络和/或激活器， 获取数据域间差异的目标域模型， 包 括： 根据所述预训练骨干模型， 构建数据域间差异的下游任务骨干网络模型； 根据所述目标域数据集、 所述下游任务骨干网络模型和全连接网络， 得到数据域间差 异的目标域模型。 5.根据权利要求4所述的神经网络模型训练方法， 其特征在于， 根据所述目标域数据 集、 所述预训练骨干模型、 全连接网络和/或激活器， 获取 数据域间差异的源域模型， 包括： 根据所述预训练骨干模型、 所述全连接网络和所述目标域模型， 得到数据域间差异 的 所述源域模型。 6.根据权利要求1所述的神经网络模型训练方法， 其特征在于， 所述根据 所述目标域数 据集、 所述源域模型和所述目标域模型， 获取 数据域间差异的评估结果， 包括： 根据所述目标域数据集、 所述源域模型和所述目标域模型， 获取数据域间差异 的经验 条件熵； 根据所述经验条件熵， 获取 数据域间差异的总体信息增益差公式； 由所述总体信息增益差公式， 计算每一样本的单个信息增益差； 将多个样本的所述单个信息增益差进行组合， 获取 数据域间差异的所述评估结果。 7.根据权利要求1所述的神经网络模型训练方法， 其特征在于， 所述根据 所述源域数据 集、 所述目标域数据集、 所述骨干网络模型和所述评估结果， 得到数据域间差异的最终模权　利　要　求　书 1/2 页 2 CN 114677521 A 2型， 包括： 根据所述评估结果， 选取 数据域间差异的目标域样本 子集； 根据所述目标域样本子集、 所述源域数据集和所述骨干网络模型， 获取数据域间差异 的重预训练骨干模型； 通过所述目标域数据集对所述重预训练骨干模型进行微调， 得到数据域间差异的所述 最终模型。 8.一种解决数据域间差异的神经网络模型训练装置， 其特 征在于， 包括： 数据获取模块， 用于获取 数据域间差异的源域数据集和目标域数据集； 预训练模块， 用于通过所述源域数据集对骨干网络模型进行预训练， 得到数据域间差 异的预训练骨干模型； 模型获取模块， 用于根据所述目标域数据集、 所述预训练骨干模型、 全连接网络和/或 激活器， 获取 数据域间差异的源域模型和目标域模型； 评估结果获取模块， 用于根据 所述目标域数据集、 所述源域模型和所述目标域模型， 获 取数据域间差异的评估结果； 最终模型确定模块， 用于根据 所述源域数据集、 所述目标域数据集、 所述骨干网络模型 和所述评估结果， 得到数据域间差异的最终模型。 9.一种计算机存储介质， 其特征在于， 所述计算机存储介质存储有多条指令， 所述指令 适于由处 理器加载并执 行如权利要求1 ‑7任意一项的方法步骤。 10.一种终端， 其特征在于， 包括： 处理器和存储器； 其中， 所述存储器存储有计算机程 序， 所述计算机程序适于由所述处 理器加载并执 行如权利要求1 ‑7任意一项的方法步骤。权　利　要　求　书 2/2 页 3 CN 114677521 A 3