[发明专利]模型训练方法、装置、计算机设备及存储介质在审
申请号: | 202310080662.3 | 申请日: | 2023-01-16 |
公开(公告)号: | CN115983365A | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 陈腊梅;王凡祎 | 申请(专利权)人: | OPPO广东移动通信有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06V10/82;G06V10/774;G06N3/084;G06N3/0464 |
代理公司: | 深圳市智圈知识产权代理事务所(普通合伙) 44351 | 代理人: | 吕静 |
地址: | 523860 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 装置 计算机 设备 存储 介质 | ||
1.一种模型训练方法,其特征在于,应用于计算机设备,所述方法包括:
获取第一训练样本集,所述第一训练样本集中的每个训练样本携带有标签信息;
对所述第一训练样本集中的部分训练样本添加噪声,得到对所述部分训练样本添加噪声后的所述第一训练样本集,作为第二训练样本集;
根据所述第二训练样本集,对初始模型进行迭代训练,得到训练后的所述初始模型,作为目标模型,所述初始模型中包括特征处理层以及与所述特征处理层相连的伪量化节点,所述伪量化节点用于根据目标参数精度对所述特征处理层的输出进行量化操作以及反量化操作,所述目标模型用于根据目标参数精度对模型参数进行精度量化后,部署于电子设备中。
2.根据权利要求1所述的方法,其特征在于,所述第一训练样本集为样本图像集,所述样本图像集用于第一训练任务的模型训练,所述对所述第一训练样本集中的部分训练样本添加噪声,得到对所述部分训练样本添加噪声后的所述第一训练样本集,作为第二训练样本集,包括:
获取与所述第一训练任务对应的目标高斯核;
利用所述目标高斯核,对所述样本图像集中的目标数量的样本图像进行卷积处理,得到卷积处理后的所述样本图像集,作为所述第二训练样本集。
3.根据权利要求2所述的方法,其特征在于,在所述利用所述目标高斯核,对所述样本图像集中的目标数量的样本图像进行卷积处理,得到卷积处理后的所述样本图像集,作为所述第二训练样本集之前,所述方法还包括:
获取与所述第一训练任务对应的噪声添加概率;
获取所述样本图像集中的样本图像的总图像数量与所述噪声添加概率的乘积,作为所述目标数量。
4.根据权利要求1所述的方法,其特征在于,所述根据所述第二训练样本集,对初始模型进行迭代训练,得到训练后的所述初始模型,作为目标模型,包括:
将所述第二训练样本集中的每个训练样本输入至所述初始模型中的特征处理层,得到每个所述训练样本对应的特征处理结果;
将每个所述训练样本对应的特征处理结果输入至所述初始模型中的所述伪量化节点,得到每个所述训练样本对应的节点输出结果,所述节点输出结果为所述伪量化节点按照所述电子设备对应的所述目标参数精度对所述特征处理结果进行所述量化操作以及所述反量化操作得到的;
基于每个所述训练样本对应的节点输出结果以及每个所述训练样本携带的标签信息,确定目标损失值;
基于所述目标损失值,对所述初始模型进行迭代训练,直至满足目标训练条件,得到训练后的所述初始模型,作为所述目标模型。
5.根据权利要求1-4任一项所述方法,其特征在于,在所述获取第一训练样本集之后,所述方法还包括:
对所述第一训练样本集中的每个训练样本进行预处理;
所述对所述第一训练样本集中的部分训练样本添加噪声,得到对所述部分训练样本添加噪声后的所述第一训练样本集,作为第二训练样本集,包括:
对进行所述预处理后的所述第一训练样本集中的部分训练样本添加噪声,得到所述部分训练样本添加噪声后的所述第一训练样本集,作为所述第二训练样本集。
6.根据权利要求5所述的方法,其特征在于,所述第一训练样本集为样本图像集,所述预处理至少包括图像归一化、图像缩放、图像裁剪、图像翻转中的一种。
7.根据权利要求1-4任一项所述的方法,其特征在于,在所述根据所述第二训练样本集,对初始模型进行迭代训练,得到训练后的所述初始模型,作为目标模型之后,所述方法还包括:
根据所述电子设备对应的所述目标参数精度,对所述目标模型的模型参数进行精度量化;
将精度量化后的所述目标模型发送至所述电子设备。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于OPPO广东移动通信有限公司,未经OPPO广东移动通信有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310080662.3/1.html,转载请声明来源钻瓜专利网。