[发明专利]一种神经网络模型训练方法、装置、设备及介质有效
申请号: | 202010711770.2 | 申请日: | 2020-07-22 |
公开(公告)号: | CN111898145B | 公开(公告)日: | 2022-11-25 |
发明(设计)人: | 李仁刚;赵雅倩;李雪雷;李茹杨;张新 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F21/60 | 分类号: | G06F21/60;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 巴翠昆 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 神经网络 模型 训练 方法 装置 设备 介质 | ||
1.一种神经网络模型训练方法,其特征在于,应用于人工智能训练平台,包括:
获取第一模型训练用户终端下发的模型训练指令;
在所述模型训练指令的控制下获取第一加密训练数据集;其中,所述第一加密训练数据集为第一数据提供方终端对第一训练数据集进行加密得到的数据集;
利用所述第一加密训练数据集以及同态训练函数进行针对初始神经网络模型的模型训练,得到对应的第一训练后模型参数;其中,所述同态训练函数为根据明文训练函数进行重构得到的训练函数;所述明文训练函数为利用明文训练集对所述初始神经网络模型进行训练所采用的计算函数;
将所述第一训练后模型参数输出至对应的所述第一模型训练用户终端,以便所述第一模型训练用户终端利用解密密钥对所述第一训练后模型参数进行解密,得到解密后模型参数;其中,所述解密密钥为同态加密系统生成的密钥,并且,所述同态加密系统还用于生成加密密钥,所述加密密钥为数据提供方终端对训练数据集进行加密采用的密钥;
所述方法还包括:
根据所述明文训练函数对应的计算类型以及所述明文训练集对应的数据类型重构所述同态训练函数;
获取所述第一模型训练用户终端下发的训练模型融合指令;
在所述模型融合指令的控制下进行训练模型融合。
2.根据权利要求1所述的神经网络模型训练方法,其特征在于,所述在所述模型融合指令的控制下进行训练模型融合,包括:
获取第二模型训练终端共享的第二加密训练数据集;所述第二加密训练数据集为第二数据供应方终端对第二训练数据集加密得到的数据集;
利用所述第二加密训练数据集以及所述同态训练函数继续训练,得到对应的优化后模型参数。
3.根据权利要求1所述的神经网络模型训练方法,其特征在于,所述在所述模型融合指令的控制下进行训练模型融合,包括:
获取第二训练后模型参数;其中,所述第二训练后模型参数为第二模型训练用户终端通过所述人工智能训练平台利用第二加密训练数据集以及所述同态训练函数进行针对所述初始神经网络模型的模型训练,得到的训练后模型参数;所述第二加密训练数据集为第二数据提供方终端对第二训练数据集进行加密得到的数据集;
利用所述第一训练后模型参数和所述第二训练后模型参数确定出对应的目标训练后模型参数。
4.根据权利要求3所述的神经网络模型训练方法,其特征在于,所述利用所述第一训练后模型参数和所述第二训练后模型参数确定出对应的目标训练后模型参数,包括:
对所述第一训练后模型参数和所述第二训练后模型参数进行加权计算,得到所述目标训练后模型参数。
5.一种神经网络模型训练装置,其特征在于,应用于人工智能训练平台,包括:
模型训练指令获取模块,用于获取第一模型训练用户终端下发的模型训练指令;
加密训练数据集获取模块,用于在所述模型训练指令的控制下获取第一加密训练数据集;其中,所述第一加密训练数据集为第一数据提供方终端对第一训练数据集进行加密得到的数据集;
神经网络模型训练模块,用于利用所述第一加密训练数据集以及同态训练函数进行针对初始神经网络模型的模型训练,得到对应的第一训练后模型参数;其中,所述同态训练函数为根据明文训练函数进行重构得到的训练函数;所述明文训练函数为利用明文训练集对所述初始神经网络模型进行训练所采用的计算函数;
模型参数输出模块,用于将所述第一训练后模型参数输出至对应的所述第一模型训练用户终端,以便所述第一模型训练用户终端利用解密密钥对所述第一训练后模型参数进行解密,得到解密后模型参数;其中,所述解密密钥为同态加密系统生成的密钥,并且,所述同态加密系统还用于生成加密密钥,所述加密密钥为数据提供方终端对训练数据集进行加密采用的密钥;
所述装置还包括:
同态训练函数构建模块,用于根据所述明文训练函数对应的计算类型以及所述明文训练集对应的数据类型重构所述同态训练函数;
训练模型融合指令获取模块,用于获取所述第一模型训练用户终端下发的训练模型融合指令;
训练模型融合模块,用于在所述模型融合指令的控制下进行训练模型融合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010711770.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种锂离子电池用硅碳负极材料及其制备方法
- 下一篇:一种触控面板及其加工方法