[发明专利]使用激活数据的压缩和解压缩来减少存储器带宽利用率的神经网络处理器

权利要求书

1.一种神经网络处理器，包括：

一个或多个神经元；和

压缩单元，所述压缩单元被配置为：

接收由所述神经网络处理器中的所述神经元中的至少一个神经元生成的未压缩数据块，所述未压缩数据块包括固定数目的字节；

生成压缩输出块的掩码部分，所述掩码部分包括与所述未压缩数据块中的字节的所述固定数目相等的数目的比特，所述掩码部分中的每个比特对应于所述未压缩数据块中的字节，以及其中所述掩码部分中的每个比特在所述未压缩数据块中的对应字节为零的情况下被设置为逻辑零，并且在所述未压缩数据块中的对应字节为非零的情况下被设置为逻辑一；

通过以下操作生成所述压缩输出块的数据部分：

确定所述未压缩数据块中的非零字节的数目，

基于所述未压缩数据块中的所述非零字节的数目，确定所述压缩输出块的所述数据部分中的、可用于存储所述未压缩数据块的截断的非零字节的比特的数目，

将所述未压缩数据块中的所述非零字节截断为所确定的所述比特的数目，以及

将所述截断的非零字节存储在所述压缩输出块的所述数据部分中；以及

输出所述压缩输出块，所述压缩输出块包括所述掩码部分和所述数据部分。

2.根据权利要求1所述的神经网络处理器，其中所述神经网络处理器还包括解压缩单元，所述解压缩单元被配置为：

接收所述压缩输出块；

基于所述压缩输出块的所述掩码部分，确定所述未压缩数据块的所述数据部分中的所述非零字节的数目；

基于所述压缩输出块的所述掩码部分，确定所述非零字节在所述未压缩数据块中的位置；

确定被所述压缩单元用来在所述压缩输出块的所述数据部分中存储所述截断的非零字节的所述比特的数目；

对于所述压缩输出块的所述掩码部分中为逻辑零的每个位置，将零字节插入到解压缩输出块的对应位置中；以及

对于所述掩码部分中为逻辑一的每个位置，将来自压缩输入块的对应位置中的所述截断的非零字节以及与在所述压缩输出块的压缩期间被截断的所述比特的数目相等的数目的零比特一起插入到所述解压缩输出块的对应位置中。

3.根据权利要求1所述的神经网络处理器，其中所述压缩单元还被配置为：

确定所述压缩输出块的所述数据部分中的、可用于存储所述未压缩数据块的截断的非零字节的附加比特的数目；以及

在截断所述未压缩数据块中的所述非零字节中的一个或多个非零字节之前，将所述附加比特分配给所述非零字节中的所述一个或多个非零字节。

4.根据权利要求2所述的神经网络处理器，其中所述解压缩单元还被配置为：确定向在所述压缩输出块的所述数据部分中存储的所述非零字节中的所述一个或多个非零字节分配的附加比特的数目。

5.根据权利要求2所述的神经网络处理器，其中所述解压缩单元还被配置为向在所述解压缩输出块中存储的所述截断的非零字节中的一个或多个截断的非零字节添加偏移。

6.根据权利要求1所述的神经网络处理器，其中所述非零字节的一个或多个最低有效比特(LSB)被截断。

7.根据权利要求1所述的神经网络处理器，其中所述非零字节的一个或多个最高有效比特(MSB)被截断。

8.一种神经网络处理器，包括：

一个或多个神经元；和

解压缩单元，所述解压缩单元被配置为：

接收包括掩码部分和数据部分的压缩数据块；

基于所述掩码部分中的比特，确定解压缩数据块中的非零字节的数目；

至少部分地基于所述非零字节的数目，确定被用来在所述压缩数据块的所述数据部分中存储截断的非零字节的比特的数目；

对于所述压缩数据块的所述掩码部分中为逻辑零的每个比特位置，将零字节插入到所述解压缩数据块的对应位置中；以及

对于所述压缩数据块的所述掩码部分中为逻辑一的每个位置，将来自所述压缩数据块的所述数据部分中的对应位置的截断的非零字节以及与在所述压缩数据块的压缩期间被截断的比特的数目相等的数目的零比特插入所述解压缩数据块中的对应位置中。