[发明专利]处理方法及加速装置

权利要求书

1.一种加速装置，其特征在于，包括：粗粒度剪枝单元、预处理单元、存储单元、直接存储访问DMA单元、粗粒度选数单元、指令控制单元和运算单元，

其中，所述预处理单元与所述存储单元连接，所述存储单元与所述DMA单元连接，所述DMA单元与所述粗粒度剪枝单元、指令控制单元、粗粒度选数单元和运算单元连接，所述粗粒度剪枝单元和指令控制单元与所述运算单元连接；

所述预处理单元，用于对原始数据进行预处理，并将预处理后的数据存储至所述存储单元；所述原始数据包括输入神经元、输出神经元和权值；

所述存储单元，用于存储输入神经元、输出神经元、权值以及指令；其中当存储所述指令时只存储目标权值及其位置信息；所述目标权值为绝对值大于第二预设阈值的权值；

所述DMA单元，用于在所述存储单元与所述指令控制单元、粗粒度剪枝单元、粗粒度选数单元和运算单元之间中进行数据或者指令读写；

所述粗粒度剪枝单元，具体用于通过所述DMA单元从所述存储单元中获取所述权值，然后对所述权值进行粗粒度剪枝，以得到剪枝后的权值；

运算单元，用于根据所述剪枝后的权值对神经网络进行训练；

所述指令控制单元，用于通过所述DMA单元从所述存储单元中获取指令，并将指令译码生成控制信息以控制所述运算单元进行计算操作；

所述粗粒度选数单元，用于接收输入神经元和所述目标权值的位置信息，并根据所述目标权值的位置信息选出需要进行运算的输入神经元，并将该输入神经元传输至所述运算单元；

所述运算单元，还用于根据所述指令控制单元传输的控制信息对输入神经元和目标权值进行运算，以得到输出神经元，根据所述输出神经元得到输出神经元梯度，并通过所述DMA单元将输出神经元及输出神经元梯度存储到所述存储单元中；

其中，所述粗粒度剪枝单元具体用于：

通过滑动窗口从神经网络的权值中选取出M个权值，所述M为大于1的整数；

当所述M个权值满足预设条件时，将所述M个权值的全部或者部分置为零；

所述粗粒度选数单元具体用于：

根据输入神经元生成神经元索引，所述神经元索引用于指示对应的输入神经元是否有用；

对所述神经元索引与所述目标权值的位置信息进行“与”操作，以得到神经元标志；所述神经元标志中的每一位指示对应的神经元是否被选择；

添加所述神经元标志的每一位，以获得累加的字符串；

对所述累加的字符串和所述神经元标志执行“与”操作，以得到用于选择输入神经元的目标字符串；

根据所述目标字符串来选择输入神经元，并将选择的输入神经元输入到上述运算单元。

2.根据权利要求1所述的装置，其特征在于，所述装置还包括指令缓存单元、第一缓存单元、第二缓存单元、第三缓存单元和第四缓存单元，

其中，所述指令缓存单元位于所述DMA单元与所述指令控制单元之间，分别与所述DMA单元和指令控制单元连接；所述第一缓存单元位于所述粗粒度剪枝单元与所述运算单元之间，分别与所述粗粒度剪枝单元与所述运算单元连接；所述第二缓存单元位于所述DMA单元与所述粗粒度选数单元之间，分别与所述DMA单元与所述粗粒度选数单元连接；所述第三缓存单元位于所述DMA单元与所述粗粒度选数单元之间，分别与所述粗粒度选数单元与所述DMA单元连接；所述第四缓存单元位于所述DMA单元与所述运算单元之间，分别与所述DMA单元与所述运算单元连接；

所述指令缓存单元，用于缓存所述指令；

所述第一缓存单元，用于缓存所述目标权值及所述剪枝后的权值；

所述第二缓存单元，用于缓存所述目标权值的位置信息；

所述第三缓存单元，用于缓存输入到所述粗粒度选数单元的输入神经元；

所述第四缓存单元，用于缓存所述运算单元输出的输出神经元和根据输出神经元得到的输出神经元梯度。

3.根据权利要求2所述的装置，其特征在于，所述预处理包括切分、高斯滤波、二值化、正则化、归一化中的至少一项。

4.根据权利要求3所述的装置，其特征在于，所述预设条件为：

所述M个权值的信息量小于第一预设阈值。