[发明专利]图像模型训练、图像处理方法、芯片、设备及介质在审
申请号: | 202011005967.0 | 申请日: | 2020-09-23 |
公开(公告)号: | CN112287968A | 公开(公告)日: | 2021-01-29 |
发明(设计)人: | 尹长生 | 申请(专利权)人: | 深圳云天励飞技术股份有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N20/00 |
代理公司: | 深圳众鼎汇成知识产权代理有限公司 44566 | 代理人: | 朱业刚 |
地址: | 518000 广东省深圳市龙岗区园山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 图像 模型 训练 处理 方法 芯片 设备 介质 | ||
1.一种图像模型训练方法,其特征在于,包括:
获取样本图像集,所述样本图像集中包含至少一个样本图像;一个所述样本图像与一个原始网络输出关联;
将所述样本图像输入至包含初始参数的预设神经网络模型中,通过所述预设神经网络模型对所述样本图像进行对称量化处理,以获取所述预设神经网络模型输出的第一量化网络输出;
确定所述第一量化网络输出与所述原始网络输出之间的第一余弦相似度;
根据所述第一余弦相似度、预设相似度阈值以及预设混合精度量化方法,对所述预设神经网络模型进行优化处理,获取优化处理后的预设神经网络模型的预设网络输出;
确定所述预设网络输出与所述原始网络输出之间的损失值,在所述损失值未达到预设收敛条件时,迭代更新所述预设神经网络模型的初始参数,直至所述损失值达到预设收敛条件时,将所述预设神经网络模型记录为图像处理模型。
2.如权利要求1所述的图像模型训练方法,其特征在于,所述将所述样本图像输入至包含初始参数的预设神经网络模型中,对所述样本图像进行对称量化处理,得到第一量化网络输出,包括:
获取与所述样本图像对应的第一精度算子以及第二精度算子;所述第二精度算子的精度高于所述第一精度算子的精度;
对所述第一精度算子进行对称量化处理并获取第一网络输出;
获取与所述第二精度算子对应的第二网络输出;
将所述第一网络输出以及第二网络输出记录为所述预设神经网络模型的第一量化网络输出。
3.如权利要求2所述的图像模型训练方法,其特征在于,所述预设神经网络模型中包括神经元处理单元以及矢量处理单元;
所述对所述第一精度算子进行对称量化处理并获取第一网络输出,包括:
采用对称量化模型对所述第一精度算子进行量化,得到与所述第一精度算子对应的量化算子;
通过所述神经元处理单元对所述量化算子进行计算之后,通过所述矢量处理单元对计算后的所述量化算子进行反量化处理,得到所述第一网络输出。
4.如权利要求3所述的图像模型训练方法,其特征在于,所述采用对称量化模型对所述第一精度算子进行量化,得到与所述第一精度算子对应的量化算子,包括:
获取所述对称量化模型中的量化参数;
根据所述量化参数以及预设取整方法,对所述第一精度算子进行取整处理,得到与所述第一精度算子对应的取整算子;
根据所述量化参数以及预设截取方法,对所述取整算子进行截取处理,得到所述量化算子。
5.如权利要求4所述的图像模型训练方法,其特征在于,所述通过所述矢量处理单元对计算后的所述量化算子反量化处理,得到所述第一网络输出,包括:
根据所述量化参数以及所述量化算子,通过所述矢量处理单元对计算后的所述量化算子反量化处理,得到所述第一网络输出。
6.如权利要求3所述的图像模型训练方法,其特征在于,所述获取与所述第二精度算子对应的第二网络输出,包括:
通过所述矢量处理单元对所述第二精度算子进行计算,得到所述第二网络输出。
7.如权利要求3所述的图像模型训练方法,其特征在于,根据所述第一余弦相似度、预设相似度阈值以及预设混合精度量化方法,对所述预设神经网络模型进行优化处理之后,获取优化处理后的预设神经网络模型的预设网络输出,包括:
检测所述第一余弦相似度是否大于或等于所述预设相似度阈值;
在所述第一余弦相似度大于或等于所述预设相似度阈值时,采用第一整型算子代替所述第一网络输出中计算量超过第一预设计算量的算子,将替换之后的所述第一网络输出记录为第一替代算子;
通过所述神经元处理单元对所述第一替代算子进行计算,得到第三网络输出,并将所述第三网络输出以及第二网络输出记录为第二量化网络输出;
确定所述第二量化网络输出与所述原始网络输出之间的第二余弦相似度;
在所述第二余弦相似度大于或等于所述预设相似度阈值时,采用优化查询方法对所述第二量化网络输出进行查询替代处理,以获取所述预设网络输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术股份有限公司,未经深圳云天励飞技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011005967.0/1.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序