[发明专利]基于Winograd算法的神经网络卷积方法及装置有效
申请号: | 201910041019.3 | 申请日: | 2019-01-16 |
公开(公告)号: | CN109767000B | 公开(公告)日: | 2022-01-25 |
发明(设计)人: | 戴宏凯;陈志杰;龚秋棠;傅松林;张伟 | 申请(专利权)人: | 厦门美图之家科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06F17/17 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 唐维虎 |
地址: | 361000 福建省厦门市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 winograd 算法 神经网络 卷积 方法 装置 | ||
1.一种基于Winograd算法的神经网络卷积方法,其特征在于,所述方法包括:
获取待加速神经网络卷积的卷积核及图像块;
将Winograd算法中矩阵元素为浮点型的第一矩阵转换为矩阵元素为整型的目标矩阵;
所述将Winograd算法中矩阵元素为浮点型的第一矩阵转换为矩阵元素为整型的目标矩阵,包括:
计算Winograd算法中矩阵元素为浮点型的第一矩阵用于整型化的对角矩阵;
根据矩阵元素为浮点型的第一矩阵及对角矩阵,得到矩阵元素为整型的目标矩阵;
根据目标矩阵、目标矩阵的转置矩阵及所述卷积核,得到第一变换矩阵;
根据Winograd算法中第二矩阵、第二矩阵的转置矩阵及所述图像块,计算得到第二变换矩阵;
根据Winograd算法中第三矩阵与所述第一变换矩阵和第二变换矩阵,得到卷积矩阵,其中,在卷积矩阵的计算过程中,所述第一变换矩阵和所述第二变换矩阵之间做哈达玛乘法运算;
采用所述卷积矩阵对输入该神经网络的图像进行卷积处理,得到卷积处理后图像。
2.根据权利要求1所述的方法,其特征在于,所述卷积矩阵的计算公式如下:
其中,Y为卷积矩阵,D为对角矩阵,G′为目标矩阵,B为第二矩阵,k为卷积核,d为图像块,A为第三矩阵,G′kG′T为第一变换矩阵,BTdB为第二变换矩阵。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
将计算得到的所述第一变换矩阵采用短整型计算机数据类型进行存储;
将计算得到的所述第二变换矩阵采用短整型计算机数据类型进行存储;
将计算得到的所述第一变换矩阵和第二变换矩阵的计算结果累加到浮点型计算机数据类型进行存储,以防止溢出。
4.一种基于Winograd算法的神经网络卷积装置,其特征在于,所述装置包括:
获取模块,用于获取待加速神经网络卷积的卷积核及图像块;
转化模块,用于将Winograd算法中矩阵元素为浮点型的第一矩阵转换为矩阵元素为整型的目标矩阵;
所述转化模块具体用于:计算Winograd算法中矩阵元素为浮点型的第一矩阵用于整型化的对角矩阵;根据矩阵元素为浮点型的第一矩阵及对角矩阵,得到矩阵元素为整型的目标矩阵;
计算模块,用于根据目标矩阵、目标矩阵的转置矩阵及所述卷积核,得到第一变换矩阵;根据Winograd算法中第二矩阵、第二矩阵的转置矩阵及所述图像块,计算得到第二变换矩阵;根据Winograd算法中第三矩阵与所述第一变换矩阵和第二变换矩阵,得到卷积矩阵,其中,在卷积矩阵的计算过程中,所述第一变换矩阵和所述第二变换矩阵之间做哈达玛乘法运算;
处理模块,用于采用所述卷积矩阵对输入该神经网络的图像进行卷积处理,得到卷积处理后图像。
5.根据权利要求4所述的装置,其特征在于,所述卷积矩阵的计算公式如下:
其中,Y为卷积矩阵,D为对角矩阵,G′为目标矩阵,G′kG′T为第一变换矩阵,B为第二矩阵,k为卷积核,d为图像块,A为第三矩阵。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
存储模块,用于将计算得到的所述第一变换矩阵采用短整型计算机数据类型进行存储;将计算得到的所述第二变换矩阵采用短整型计算机数据类型进行存储;将计算得到的所述第一变换矩阵和第二变换矩阵的计算结果累加到浮点型计算机数据类型进行存储,以防止溢出。
7.一种电子设备,其特征在于,所述电子设备包括:
处理器及存储有若干计算机指令的非易失性存储器,所述计算机指令被所述处理器执行时,所述电子设备执行权利要求1-3中任意一项所述的基于Winograd算法的神经网络卷积方法。
8.一种可读存储介质,其特征在于,所述可读存储介质中存储有计算机程序,所述计算机程序被执行时实现权利要求1-3中任意一项所述的基于Winograd算法的神经网络卷积方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门美图之家科技有限公司,未经厦门美图之家科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910041019.3/1.html,转载请声明来源钻瓜专利网。