[发明专利]一种基于可信执行环境的模型训练方法和装置有效
申请号: | 202011012420.3 | 申请日: | 2020-09-23 |
公开(公告)号: | CN111935179B | 公开(公告)日: | 2021-01-12 |
发明(设计)人: | 刘永超;贾贝;金跃;杨成平;张尧 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | H04L29/06 | 分类号: | H04L29/06;G06K9/62;G06F21/60 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 周嗣勇 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 可信 执行 环境 模型 训练 方法 装置 | ||
1.一种基于可信执行环境的模型训练方法,包括:
从加密训练样本集中获取若干加密目标样本;
将所述若干加密目标样本输入可信执行环境,在可信执行环境中对所述加密目标样本解密并将解密后的目标样本输入特征提取模型,得到样本特征;
将所述可信执行环境输出的样本特征确定为用于本次迭代的目标样本特征;
利用所述目标样本特征对目标模型进行本次迭代训练;
所述利用所述目标样本特征对目标模型进行本次迭代训练,包括:
根据所述目标模型的损失函数,确定本次迭代中所述目标模型对应的第一梯度值;
利用所述第一梯度值更新所述目标模型的模型参数;
所述方法还包括:
基于所述第一梯度值计算出本次迭代中所述特征提取模型对应的第二梯度值;
将所述第二梯度值输入到所述可信执行环境中,并利用所述第二梯度值更新所述可信执行环境中特征提取模型的模型参数。
2.根据权利要求1所述方法,所述将解密后的目标样本输入特征提取模型之前,所述方法还包括:
在可信执行环境中对所述解密后的目标样本进行特征增强处理。
3.根据权利要求1至2任一项所述方法,基于多个训练进程执行所述目标模型的迭代训练;
每个训练进程获取若干加密目标样本的过程,包括:
在首次迭代时,获取本训练进程对应的子训练样本集,并将所述子训练样本集中的加密训练样本确定为本次迭代的加密目标样本;
在非首次迭代时,与指定训练进程交换部分加密训练样本,得到本次迭代的加密目标样本。
4.根据权利要求3所述方法,所述与指定训练进程交换部分加密训练样本,包括:
每个训练进程将对应的子训练样本集中预设比例的加密训练样本发送给第一指定训练进程;
接收由第二指定训练进程发送的加密训练样本。
5.根据权利要求3所述方法,各个训练进程分别用于训练得到所述目标模型的指定模型参数。
6.根据权利要求3所述方法,所述利用所述目标样本特征对所述目标模型进行本次迭代训练之后,所述方法还包括:
针对每个训练进程,执行以下操作:
与指定训练进程交换部分目标样本特征,得到本训练进程用于下次迭代的交换后的目标样本特征,并在下次迭代中利用所述交换后的目标样本特征对所述目标模型进行训练。
7.一种基于可信执行环境的模型训练装置,包括:
获取单元,从加密训练样本集中获取若干加密目标样本;
输入单元,将所述若干加密目标样本输入可信执行环境,在可信执行环境中对所述加密目标样本解密并将解密后的目标样本输入特征提取模型,得到样本特征;
确定单元,将所述可信执行环境输出的样本特征确定为用于本次迭代的目标样本特征;
训练单元,利用所述目标样本特征对目标模型进行本次迭代训练;
所述训练单元:
根据所述目标模型的损失函数,确定本次迭代中所述目标模型对应的第一梯度值;
利用所述第一梯度值更新所述目标模型的模型参数;
所述训练单元还:
基于所述第一梯度值计算出本次迭代中所述特征提取模型对应的第二梯度值;
利用所述第二梯度值更新所述特征提取模型的模型参数。
8.根据权利要求7所述装置,所述输入单元在将解密后的目标样本输入特征提取模型之前,还:
在可信执行环境中对所述解密后的目标样本进行特征增强处理。
9.根据权利要求7至8任一项所述装置,基于多个训练进程执行所述目标模型的迭代训练;
每个训练进程执行所述获取单元中获取若干加密目标样本时:
在首次迭代时,获取本训练进程对应的子训练样本集,并将所述子训练样本集中的加密训练样本确定为本次迭代的加密目标样本;
在非首次迭代时,与指定训练进程交换部分加密训练样本,得到本次迭代的加密目标样本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011012420.3/1.html,转载请声明来源钻瓜专利网。