[发明专利]神经网络计算模块、方法和通信设备有效
申请号: | 202111071502.X | 申请日: | 2021-09-14 |
公开(公告)号: | CN113537482B | 公开(公告)日: | 2021-12-28 |
发明(设计)人: | 王赟;张官兴;郭蔚;黄康莹;张铁亮 | 申请(专利权)人: | 绍兴埃瓦科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 北京清大紫荆知识产权代理有限公司 11718 | 代理人: | 黄贞君;冯振华 |
地址: | 311800 浙江省绍兴市陶朱*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 计算 模块 方法 通信 设备 | ||
1.一种神经网络计算模块,用于卷积神经网络的卷积处理中,其特征在于,包括数据控制器、数据提取器、第一移位寄存器组、第二移位寄存器组和神经网络计算单元,
所述数据控制器根据配置信息和指令信息调整数据通路,控制所述数据提取器按行从待处理图像的特征图数据提取特征行数据和卷积核行数据;
所述第一移位寄存器组采用串行输入并行输出的方式将所述特征行数据输出至所述神经网络计算单元;
所述第二移位寄存器组采用串行输入并根据步长择一输出的方式将所述卷积核行数据输出至所述神经网络计算单元的当前卷积运算乘加阵列和下一级卷积运算乘加阵列;
所述神经网络计算单元将输入的所述特征行数据和所述卷积核行数据对应进行乘法运算和累加运算,完成一个卷积核与所述特征图数据的卷积运算,并在至少一个周期完成多个卷积结果的累加,神经网络计算模块还包含PE阵列、多个第一多路选择复用器和多个第二多路选择复用器,第一多路选择复用器与卷积运算乘加阵列一一对应地并行耦合,第二多路选择复用器与卷积运算乘加阵列一一对应地串行耦合;第一多路选择复用器通过数据选择信号获取与卷积运算乘加阵列对应的特征行数据,并行输入至对应的各级卷积运算乘加阵列中,第二多路选择复用器获取与卷积运算乘加阵列对应的卷积核行数据串行输入至各级卷积运算乘加阵列中完成卷积乘加运算从而实现电路重构以及数据复用。
2.根据权利要求1所述的神经网络计算模块,其特征在于,所述神经网络计算单元包括乘加子单元与部分和缓存子单元,
所述乘加子单元将输入的所述特征行数据和所述卷积核行数据对应进行乘法运算,并与所述部分和缓存子单元中的卷积行部分和数据进行累加运算,当完成所述卷积核行数据与对应卷积窗口的所述特征行数据的卷积操作时,将所述卷积窗口的多个行卷积结果部分和累加,实现卷积核的一个滑窗卷积操作;
每组不同级的卷积运算乘加阵列在一个卷积行周期输出行运算结果给累加器,所述累加器通过加法树将当前卷积核所有行对应的各组同级所述卷积运算乘加阵列输出的所述行运算结果累加,从而实现一个卷积核的卷积运算。
3.根据权利要求2所述的神经网络计算模块,其特征在于,神经网络计算单元包括多个神经网络加速分片,每个神经网络加速分片包含多个所述卷积运算乘加阵列,每个神经网络加速分片至少完成一个输入通道的特征图数据与一个卷积核数据的卷积运算,多个神经网络加速分片完成多个输入通道的特征图数据与一个卷积核数据的卷积运算。
4.根据权利要求3所述的神经网络计算模块,其特征在于,所述多个神经网络加速分片构成第一神经网络运算矩阵,多个第一神经网络运算矩阵并行耦合构成第二神经网络加速矩阵;所述第二神经网络加速矩阵中的第一神经网络运算矩阵用于完成多个输入通道特征数据与一个卷积核的卷积运算,多个所述第二神经网络加速矩阵完成多个输入通道特征数据与多个卷积核的并行卷积运算。
5.根据权利要求4所述的神经网络计算模块,其特征在于,每个神经网络加速分片中的多组所述卷积运算乘加阵列通过并行输入的方式获取特征行数据;每个神经网络加速分片中的多组所述卷积运算乘加阵列通过串行输入的方式获取卷积核行数据。
6.根据权利要求1所述的神经网络计算模块,其特征在于,所述数据控制器用于根据配置信息和指令信息,获取加载到神经网络计算单元内的特征数据和对应的权重数据的存储地址,同时指令多路复用器通断调整数据通路,按指令信息将特征数据和对应的权重数据输入对应的神经网络计算单元;
数据提取器,包括特征提取器和卷积核提取器,所述特征提取器用于根据指令信息从特征数据缓存单元提取的特征行数据,所述卷积核提取器用于根据指令信息从卷积核缓存单元提取的卷积核数据,以便传输给所述神经网络计算模块。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于绍兴埃瓦科技有限公司,未经绍兴埃瓦科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111071502.X/1.html,转载请声明来源钻瓜专利网。