[发明专利]神经网络加速器、卷积运算实现方法、装置及存储介质

权利要求书

1.一种神经网络卷积运算实现方法，包括：

获取原始卷积核对应的子卷积核、压缩子卷积核以及权重索引，所述子卷积核通过对所述原始卷积核进行切分处理得到，所述压缩子卷积核和所述权重索引通过去除所述子卷积核中的零值权重，对剩余权重值进行重排得到；

从待处理的原始数据中读取规格与所述子卷积核规格相匹配的原始数据块；

控制计算单元阵列根据所述原始数据块、压缩子卷积核以及权重索引执行迭代流程，所述计算单元阵列中包括多个乘累加计算器；

迭代流程结束后，获取所述计算单元阵列的输出结果。

2.如权利要求1所述的神经网络卷积运算实现方法，其特征在于，所述迭代流程包括：将所述压缩子卷积核中的权重值按照所述计算单元阵列的计算节拍逐渐从所述计算单元阵列的第一侧输入，同时随着所述计算节拍根据所述权重索引的指示从所述原始数据块中读取数据自所述计算单元阵列的第二侧输入，一个所述压缩子卷积核中的各权重值将按照所述计算节拍逐渐流向与所述第一侧相对的第三侧，所述数据将按照所述计算节拍逐渐流向与所述第二侧相对的第四侧；所述计算单元阵列的输出结果作为下一次迭代的原始数据块。

3.如权利要求2所述的神经网络卷积运算实现方法，其特征在于，所述控制计算单元阵列根据所述原始数据块、压缩子卷积核以及权重索引执行迭代流程之前，还包括：

确定所述压缩子卷积核为支持威诺格拉德Winograde算法的卷积核；

将所述压缩子卷积核与所述原始数据块转换到Winograde域；

所述控制计算单元阵列根据所述原始数据块、压缩子卷积核以及权重索引执行迭代流程包括：控制所述计算单元阵列在所述Winograde域下根据所述权重索引执行所述压缩子卷积与所述原始数据块之间的卷积运算；

所述获取所述计算单元阵列的输出结果之后，还包括：

将获取的输出结果转换到数字域得到本次神经网络卷积运算的最终结果。

4.如权利要求2所述的神经网络卷积运算实现方法，其特征在于，所述将所述压缩子卷积核中的权重值按照所述计算单元阵列的计算节拍逐渐从所述计算单元阵列的第一侧输入，同时随着所述计算节拍根据所述权重索引的指示从所述原始数据块中读取数据从所述计算单元阵列的第二侧输入包括：

将所述压缩子卷积核中的权重值按照所述计算节拍逐渐从所述计算单元阵列的上边缘输入所述计算单元阵列，并随着所述计算节拍根据所述权重索引的指示从所述原始数据块中读取数据自所述计算单元阵列的左边缘输入所述计算单元阵列。

5.如权利要求2所述的神经网络卷积运算实现方法，其特征在于，所述随着所述计算节拍根据所述权重索引的指示从所述原始数据块中读取数据自所述计算单元阵列的第二侧输入包括：

对于任一压缩子卷积核，根据所述权重索引确定所述原始数据块中与所述压缩子卷积核中各权重对应的数据；

将确定出的数据自所述计算单元阵列的第二侧输入。

6.如权利要求1-5任一项所述的神经网络卷积运算实现方法，其特征在于，确定权重索引的方式包括以下几种中的任意一种：

按照零值权重在所述子卷积核中的绝对位置确定所述压缩子卷积核对应的权重索引；

按照所述子卷积核中非零权值相对前一非零权值之间所间隔的零值权重的数目确定所述压缩子卷积核对应的权重索引；

按照非零权重在所述子卷积核中的绝对位置确定所述压缩子卷积核对应的权重索引；

按照所述子卷积核中零值权值相对前一零值权值之间所间隔的非零权重的数目确定所述压缩子卷积核对应的权重索引。

7.如权利要求1-5任一项所述的神经网络卷积运算实现方法，其特征在于，所述从待处理的原始数据中读取规格与所述子卷积核规格相匹配的原始数据块之前，还包括：

解析终端CPU发送的控制指令；

根据对所述控制指令的解析结果配置本次神经网络卷积运算所采用的计算单元阵列。