[发明专利]变换、二次变换矩阵训练方法、编码器及相关装置

权利要求书

1.一种变换方法，其特征在于，包括：

利用当前残差块的属性获取当前主变换对；

若所述当前主变换对不属于指定主变换对，则将多个第一候选变换组合中的所述当前主变换对修改为至少一组指定主变换对，其中每个所述第一候选变换组合包括所述当前主变换对和二次变换矩阵，以使得所述第一候选变换组合中的当前主变换对与二次变换矩阵相适配，所述指定主变换对用于训练所述二次变换矩阵；

基于变换代价最小的原则从包括所述第一候选变换组合在内的多个候选变换组合中选出最终变换组合。

2.根据权利要求1所述的变换方法，其特征在于，所述候选变换组合进一步包括第二候选变换组合，所述第二候选变换组合仅包括修改后的所述当前主变换对。

3.根据权利要求1所述的变换方法，其特征在于，所述候选变换组合进一步包括第二候选变换组合，所述第二候选变换组合仅包括修改前的所述当前主变换对。

4.根据权利要求1所述的变换方法，其特征在于，修改后的所述当前主变换对与修改前的所述当前主变换对中的一个变换核相同。

5.根据权利要求4所述的变换方法，其特征在于，

修改前的所述当前主变换对为(离散余弦变换2，离散正弦变换7)或(离散正弦变换7，离散余弦变换2)；

修改后的所述当前主变换对为(离散余弦变换2，离散余弦变换2)和/或(离散正弦变换7，离散正弦变换7)。

6.根据权利要求1所述的变换方法，其特征在于，所述基于变换代价最小的原则从包括所述第一候选变换组合在内的多个候选变换组合中选出最终变换组合包括：

分别利用每个所述候选变换组合对所述当前残差块进行变换得到变换结果；

分别计算每个所述变换结果的变换代价；

选择所述变换代价最小的变换结果对应的候选变换组合作为所述最终变换组合。

7.一种变换方法，其特征在于，包括：

利用当前残差块的属性获取当前主变换对；

基于变换代价最小的原则从包括第一候选变换组合在内的多个候选变换组合中选出最终变换组合；

其中，每个所述第一候选变换组合包括所述当前主变换对和二次变换矩阵，其中所述第一候选变换组合中的当前主变换对与二次变换矩阵相适配，所述二次变换矩阵是利用指定主变换对训练得到的，训练用指定主变换对包括主变换选择过程使用的所有主变换对，进而使当前残差块所使用的当前主变换对属于指定主变换对。

8.根据权利要求7所述的变换方法，其特征在于，利用指定主变换对训练得到二次变换矩阵包括：

将至少两个变换基进行组合以得到多个主变换对，每个所述主变换对包括两个所述变换基，所述多个主变换对包括主变换选择过程使用的所有主变换对；

利用所有所述主变换对对多个残差块样本进行变换得到多个主变换系数；

利用所述多个主变换系数训练得到所述二次变换矩阵。

9.根据权利要求8所述的变换方法，其特征在于，所述将至少两个变换基进行组合以得到多个主变换对包括：

获取所述主变换选择过程使用的所有变换基；

将所述主变换选择过程使用的所有变换基进行组合以得到所述多个主变换对。

10.根据权利要求8所述的变换方法，其特征在于，所述将至少两个变换基进行组合以得到多个主变换对包括：

将所有类型的变换基进行组合以得到所述多个主变换对。

11.一种编码器，其特征在于，所述编码器包括处理器，所述处理器用于执行指令以实现如权利要求1-6中任一项所述的方法。

12.一种计算机设备，其特征在于，所述计算机设备包括处理器，所述处理器用于执行指令以实现如权利要求7-10中任一项所述的方法。

13.一种存储装置，存储有指令，其特征在于，所述指令被处理器执行时实现如权利要求1-6- 或7-10中任一项所述的方法。