[发明专利]一种Winograd卷积运算加速方法及加速模块有效

专利信息
申请号: 202110588325.6 申请日: 2021-05-28
公开(公告)号: CN113283587B 公开(公告)日: 2023-09-19
发明(设计)人: 杨晨;吕娴娴;范世全;耿莉 申请(专利权)人: 西安交通大学
主分类号: G06N3/0464 分类号: G06N3/0464;G06N3/08;G06F15/78
代理公司: 西安通大专利代理有限责任公司 61200 代理人: 马贵香
地址: 710049 *** 国省代码: 陕西;61
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 winograd 卷积 运算 加速 方法 模块
【权利要求书】:

1.一种Winograd卷积运算加速方法,其特征在于,包括:

对于非3×3形状的卷积运算,使用基于步长的卷积核拆分方法将输入矩阵拆分或者填充为4×4的输入矩阵,将卷积核矩阵拆分或者填充为3×3的卷积核矩阵;

使用卷积核转换矩阵和输入矩阵转换矩阵BT对3×3的卷积核矩阵和4×4的输入矩阵分别进行Winograd变换,得到变换后的卷积核矩阵U和输入矩阵V

对变换后的卷积核矩阵U中的元素按照比特级精度进行权重拆分,通过累加运算和移位运算得到矩阵Z

对矩阵Z进行Winograd变换,获得卷积运算的输出矩阵Y

矩阵Z中的每个元素z的计算公式如下:

(14)

(15)

(16)

(17)

(18)

(19)

(20)

(21)

输出矩阵Y中的每个元素y的计算公式如下:

(22)

(23)

(24)

(25)

其中,;表示该值为中的第q个比特位上的数值;表示该元素处于转换后的卷积核矩阵U中的位置,v=1,2,3,4;为转换后的输入矩阵V中的元素。

2. 根据权利要求1所述的Winograd卷积运算加速方法,其特征在于,对于Winograd F(2×2,3×3),输入矩阵转换矩阵的值如下:

(2)

转换后的输入矩阵表示如下:

(6)。

3. 根据权利要求1所述的Winograd卷积运算加速方法,其特征在于,对于Winograd F(2×2,3×2),卷积核转换矩阵的值如下:

(3)

转换后的卷积核矩阵表示如下:

(5)。

4.根据权利要求1所述的Winograd卷积运算加速方法,其特征在于,对变换后的卷积核矩阵U中的元素按照比特级精度进行权重拆分,通过累加运算和移位运算得到矩阵Z具体是:

步骤1,假设转换后的卷积核矩阵U是量化的定点格式,保持在10-bit精度,对于转换后的卷积核矩阵U中的每一个权重,遍历比较其每一个比特位,标记出所有的非零元素;根据所标记的、和,将对应的输入矩阵V中的赋给,未被标记处用0补上;

步骤2,将产生的元素根据q值的不同分类,分为10类,对于每一个q值,将被归予对应分类的所有,获得10个累加和accq

步骤3,将每q值对应分类下的累加和accq乘以2q,获得10个部分积partialq

步骤4,对10个部分积partialq再次进行累加运算,以获得输出元素,组成矩阵Z

步骤5,利用累加运算对矩阵Z进行变换,得到输出矩阵Y

5.根据权利要求4所述的Winograd卷积运算加速方法,其特征在于,所有的累加运算采用进位保留加法算法完成。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安交通大学,未经西安交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110588325.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top