[发明专利]用于神经网络的处理系统和处理方法有效
申请号: | 201711041164.9 | 申请日: | 2017-10-30 |
公开(公告)号: | CN107818367B | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 韩银和;闵丰;许浩博;王颖 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 神经网络 处理 系统 方法 | ||
1.一种神经网络处理系统,其特征在于,包括:
计算阵列,用于执行神经元和权值的乘法和累加操作;以及
控制单元,用于控制所述计算阵列的数据传递和加载;
其中,所述计算阵列包括:
至少一个列处理单元,由多个乘法单元构成,并用于执行神经元和权值的乘法运算,以输出乘积结果;
至少一个列累加单元,与所述列处理单元相连,并用于对所述列处理单元的多个乘积结果进行累加;
至少一个列暂存单元,与所述列累加单元相连,并用于存储所述列累加单元的计算结果;
所述控制单元基于所述计算阵列的规模确定神经元的分批策略和权值的分批策略,以及基于所述神经元的分批策略控制神经元执行下列操作:在每一个周期,向所述计算阵列的第一列输入一个神经元组,之前已载入的神经元组均横向向后传递一列;当所述计算阵列的各列均载有神经元组时,暂停输入神经元组;将已载入的所有神经元组按照输入顺序从第一列开始继续在所述计算阵列中流动,直到所述已载入的所有神经元组与对应的所有输出特征图的权值完成计算。
2.根据权利要求1所述的神经网络处理系统,其特征在于,所述计算阵列组织为二维矩阵形式,二维矩阵的行数是一个所述列处理单元包含的乘法单元的数目,二维矩阵的列数是所述列处理单元的数目。
3.根据权利要求1所述的神经网络处理系统,其特征在于,所述神经元的分批策略是:
将针对所有输入特征图的一个卷积域范围的神经元作为一个神经元批次,该一个神经元批次包括多个神经元组,每个神经元组包含的神经元数目等于所述计算阵列的第一列所包含的乘法单元数目。
4.根据权利要求1所述的神经网络处理系统,其特征在于,所述权值的分批策略是:
将一个神经元集群所需的权值作为一个权值批次,其中,该一个神经元集群包含的神经元数目等于所述计算阵列的乘法单元数目。
5.根据权利要求1所述的神经网络处理系统,其特征在于,所述控制单元根据所述计算阵列中神经元与权值计算任务的完成情况生成神经元持续循环传递信号,以控制已载入的神经元组在所述计算阵列中循环传递,或者生成循环传递结束信号以控制向所述计算阵列输入新的神经元组。
6.根据权利要求1至5中任一项所述的神经网络处理系统,其中所述列暂存单元用于针对不同输出特征图分别存储对应神经元累加的中间值。
7.一种神经网络处理方法,包括,以下步骤:
根据神经网络中计算阵列的规模确定待计算神经元和权值的分批策略;
根据所述分批策略控制所述待计算神经元和权值到所述计算阵列的加载和在所述计算阵列的流动,包括:在每一个周期,向所述计算阵列的第一列输入一个神经元组,之前已载入的神经元组均横向向后传递一列;当所述计算阵列的各列均载有神经元组时,暂停输入神经元组;将已载入的所有神经元组按照输入顺序从第一列开始继续在所述计算阵列中流动,直到所述已载入的所有神经元组与对应的所有输出特征图的权值完成卷积计算;
对所述卷积计算的结果进行激活处理和池化处理。
8.根据权利要求7所述的神经网络处理方法,其中,所述神经元的分批策略是:将针对所有输入特征图的一个卷积域范围的神经元作为一个神经元批次,该一个神经元批次包括多个神经元组,每个神经元组包含的神经元数目等于所述计算阵列的第一列所包含的乘法单元数目。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711041164.9/1.html,转载请声明来源钻瓜专利网。