[发明专利]局部熵编码的数据压缩

权利要求书

1.一种用于压缩数据的系统，所述系统包括：

编码器神经网络，被配置为执行操作，所述操作包括：

接收要压缩的数据；

根据一组编码器神经网络参数的当前值处理数据，以生成包括作为代码符号的有序集合的数据的表示的输出；

压缩子系统，被配置为执行操作，所述操作包括：

接收编码器神经网络的输出，所述编码器神经网络的输出包括作为代码符号的有序集合的数据的表示；

识别代码符号的集合到一个或多个代码符号子集的划分；

对于每个代码符号子集：

从多个代码符号概率分布的字典中，并且基于代码符号子集，

识别代码符号子集的代码符号概率分布；

通过使用为代码符号子集识别的代码符号概率分布对代码符号子集进行熵编码，生成代码符号子集的熵编码表示；

确定代码符号子集的压缩表示，所述压缩表示包括：(i)代码符号子集的熵编码表示，和(ii)指示用于对代码符号子集进行熵编码的代码符号概率分布的数据；

基于代码符号子集的压缩表示来确定数据的压缩表示。

2.根据权利要求1所述的系统，其中，所述要压缩的数据包括图像。

3.根据权利要求1-2中任一项所述的系统，其中，所述编码器神经网络是卷积神经网络。

4.根据权利要求1-3中任一项所述的系统，还包括被配置为执行操作的学习子系统，所述操作包括：

由编码器神经网络并且根据所述一组编码器神经网络参数的当前值处理一组训练数据中的数据，以生成包括所述一组训练数据中的数据的表示的、作为代码符号的有序集合的输出；

对于代码符号的每个有序集合，识别代码符号的有序集合到一个或多个代码符号子集的划分；以及

基于代码符号的有序集合的代码符号子集中的代码符号的分布，确定多个代码符号概率分布的字典。

5.根据权利要求4所述的系统，其中，确定代码符号概率分布的字典包括：

对于代码符号的有序集合的代码符号子集中的每一个，确定反映代码符号子集中的代码符号的出现频率的相应代码符号概率分布；

对确定的代码符号概率分布进行聚类；以及

基于聚类的代码符号概率分布的聚类中心来确定代码符号概率分布的字典。

6.根据权利要求5所述的系统，其中，对代码符号概率分布进行聚类包括基于散度度量来确定代码符号概率分布之间的距离。

7.根据权利要求1-6中任一项所述的系统，其中，识别代码符号子集的代码符号概率分布包括：

对于字典中的每个代码符号概率分布，基于代码符号概率分布确定代码符号子集的熵编码表示的对应长度；以及

将代码符号子集的代码符号概率分布识别为来自字典的、具有熵编码表示的最小对应长度的代码符号概率分布。

8.根据权利要求7所述的系统，其中，基于代码符号概率分布确定代码符号子集的熵编码表示的长度包括根据代码符号概率分布，确定在代码符号子集中的每个代码符号上的、代码符号的概率的对数的总和。

9.根据权利要求1-8中任一项所述的系统，其中：

由所述压缩子系统执行的操作还包括：

将一个或多个代码符号子集确定为候选代码符号子集；

基于候选代码符号子集确定自定义代码符号概率分布；

基于候选代码符号子集的熵编码表示的长度的减少来确定节省值，所述候选代码符号子集的熵编码表示的长度的减少通过使用自定义代码符号概率分布而不是来自字典的代码符号概率分布对候选代码符号子集进行熵编码来实现；

基于表示自定义代码符号概率分布所要求的数据长度来确定成本值；和

响应于确定节省值大于成本值，则通过使用自定义代码符号概率分布对候选代码符号子集进行熵编码来生成候选代码符号子集的代码符号的熵编码表示。