[发明专利]基于低位移秩的深度神经网络压缩

权利要求书

1.一种方法，包括：

获得表示深度神经网络的权重、偏置和非线性的信息，以及用于所述深度神经网络的近似训练集；

使用所述信息和所述近似训练集来生成用于所述深度神经网络的层的信息的输出矩阵；以及，

通过迭代地使用所述深度神经网络的先前层的输出矩阵和所述近似训练集来更新用于附加层的所述输出矩阵，直到已经满足用于该层的最小化准则，并且直到达到最后一层以生成表示所述输出矩阵的系数；以及，

对所述系数执行量化和熵译码。

2.一种装置，包括：

处理器，其被配置为执行：

获得表示深度神经网络的权重、偏差和非线性的矩阵；

使用所述矩阵、来自训练数据的近似集以及到所述深度神经网络的层的输入来生成所述层的输出；以及；

通过迭代地使用所述深度神经网络的先前层的输出矩阵和所述近似训练集来更新用于附加层的所述输出矩阵，直到已经满足用于该层的最小化准则，并且直到达到最后一层以生成表示所述输出矩阵的系数；以及，

对所述系数执行量化和熵译码。

3.一种方法，包括：

对来自比特流的数据执行熵解码；

对所述熵解码的数据执行逆量化；以及，

迭代地获得表示深度神经网络的去量化的矩阵以及构建权重矩阵，直到到达最后一层。

4.一种装置，包括：

处理器，被配置为执行：

对来自比特流的数据执行熵解码；

对所述熵解码的数据执行逆量化；以及，

迭代地获得表示深度神经网络的去量化的矩阵以及构建权重矩阵，直到到达最后一层。

5.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述近似包括基于低位移秩的近似。

6.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述近似训练集包括所述深度神经网络的原始训练集的子集。

7.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述近似训练集包括关于所述深度神经网络的集合示例。

8.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述最小化使用随机梯度下降方案。

9.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述最小化使用求逆方案。

10.根据权利要求1所述的方法或如权利要求2所述的装置，其中所述更新使用训练数据而被执行。

11.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述更新针对每一层使用不同的元数据而被执行。

12.一种设备，包括：

根据权利要求4至11中任意项所述的装置；以及

以下各项中的至少一者：(i)天线，被配置为接收信号，所述信号包含所述视频块，(ii)频带限制器，被配置为将所接收的信号限制到包含所述视频块的频带，以及(iii)显示器，被配置为显示表示视频块的输出。

13.一种非暂时性计算机可读介质，含有根据权利要求1和5至11中任一项所述的方法或者由权利要求2和5至11中任一项所述的装置生成的数据内容，用于使用处理器进行回放。

14.一种包括根据权利要求1和5至11中任一项所述的方法或由权利要求2和5至11中任一项所述的装置生成的视频数据的信号，用于使用处理器进行回放。

15.一种包括指令的计算机程序产品，当所述程序由计算机执行时，所述指令使所述计算机执行根据权利要求1、3和5至11中任一项所述的方法。