[发明专利]数据压缩和存储

说明书

描述了数据压缩和解压缩的方法。所述压缩方法包括通过为每个组生成包括h比特的标头数据和各自包括b比特的多个主体部分来编码数据项组，并且每个主体部分对应于所述组中的数据项。对于所有组，h的值可以是固定的，并且b的值在组内是固定的，其中组的所述标头数据包括该组的所述主体部分的b的指示。在各种实例中，b＝0，因此没有主体部分。在b不等于零的实例中，通过交错来自所述主体部分的对应于所述组中数据项的比特，为每个组生成主体数据字段。所得的包括标头数据和若存在的主体数据字段的编码数据块可以写入存储器。

背景技术

卷积神经网络(NN)可包括输入层、输出层和多个隐藏层。对于NN中的每个层，预先计算权重或系数的阵列(例如权重的多维阵列)(例如作为训练阶段的一部分)并存储在存储器中，使得当它们应用于输入数据(也可以是数据多维阵列)时可以在运行时进行使用。权重阵列可以被定义为具有x*y*z的大小，其中对于不同的层，x和y可以是相同的或不同的(例如取决于是否使用填充)，并且对于不同的层，阵列的深度z通常是不同的。对于输入层，权重阵列的深度可以很小(例如深度为二)，但对于其他层，特别是朝向NN的末端，深度可以大得多(例如超过100或超过1000，并且已知后一层的深度为4000+)。在运行时，从存储器读取这些权重。

下面描述的实施方案仅以举例的方式提供，而不构成对解决已知数据处理方法的任何或所有缺点的实现方式的限制。

发明内容

提供本发明内容是为了以简化的形式介绍下文在具体实施方式中进一步描述的一系列概念。本发明内容不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。

描述了数据压缩和解压缩的方法。这些方法可用于对神经网络中使用的权重进行压缩/解压缩。压缩方法包括通过为每个组生成包括h比特的标头数据和各自包括b比特的多个主体部分来编码数据项组，并且每个主体部分对应于该组中的数据项。对于所有组，h的值可以是固定的，并且b的值在组内是固定的，其中组的标头数据包括该组的主体部分的b的指示。在各种实例中，b＝0，因此没有主体部分。在b不等于零的实例中，通过交错来自主体部分的对应于组中数据项的比特，为每个组生成主体数据字段。所得的包括标头数据和若存在的主体数据字段的编码数据块可以写入存储器。

第一方面提供了一种数据压缩方法，该方法包括：接收多个数据项；通过为每个组生成包括h比特的标头数据和各自包括b比特的多个主体部分来编码数据项组，并且每个主体部分对应于该组中的数据项，其中b在组内是固定的并且其中组的标头数据包括该组的主体部分的b的指示；对于b0的每个组，通过交错来自主体部分的对应于组中数据项的比特来生成该组的主体数据字段；以及存储包括标头数据和主体数据字段的一个或多个编码数据块。

在一些实例中，对于所有组，h是固定的，并且b在组之间不是固定的。

b可以是大于或等于零的整数，并且h可以是大于零的整数。

所述存储一个或多个编码数据块可包括：存储包括多个组的主体数据字段的主体数据块；以及存储包括多个组的标头数据的标头数据块。

所述交错来自主体部分的对应于该组中数据项的比特可包括：(a)将每个主体部分的第一比特插入主体数据字段中；(b)将每个主体部分的下一比特插入主体数据字段中；以及(c)重复(b)，直到每个主体部分的所有比特都插入主体数据字段中。

所述将每个主体部分的第一比特插入主体数据字段中可包括将每个主体部分的最低有效比特插入主体数据字段中，并且其中将每个主体部分的下一比特插入主体数据字段中可包括将每个主体部分的下一最低有效比特插入主体数据字段中。

对于每个组，所述编码数据项组可包括：接收数据项组；通过在组中的所有数据项中定位最高有效前导一的比特位置来识别主体部分大小b；生成包括编码主体部分大小的比特序列的标头数据；以及通过从每个数据项中移除无、一个或多个前导零，为该组中的每个数据项生成包括b比特的主体部分。