[发明专利]非可分离变换方法以及设备

权利要求书

1.一种低频非可分离变换LFNST方法，其特征在于，所述方法包括：

解析当前编码单元中变换块的变换系数，得到第一变换系数矩阵；

统计所述第一变换系数矩阵的左上角预设区域中的非0变换系数的个数K，其中所述左上角预设区域小于所述第一变换系数矩阵的区域；

若所述个数K大于阈值，解析索引值；

根据所述变换块对应的帧内预测模式，确定所述帧内预测模式对应的变换集；

根据所述变换集的编号和所述索引值，确定变换矩阵，其中所述变换集的编号只能够为0， 1，或2中三者之一；

将所述第一变换系数矩阵的N个变换系数，与所述变换矩阵相乘，得到M个变换系数；

用所述M个变换系数更新所述第一变换系数矩阵得到第二变换系数矩阵；和

对所述第二变换系数矩阵进行反变换，得到残差，

如果所述帧内预测模式为直流预测（DC）、平面预测（Planar）、跨分量线性模型预测（cross component linear model, CCLM）之一，则所述变换集的编号为0号；

如果所述帧内预测模式为不在水平预测和竖直预测之间的角度预测模式，则所述变换集的编号为1号；

如果所述帧内预测模式为在水平预测和竖直预测之间的角度预测模式，则所述变换集的编号为2号。

2.根据权利要求1所述的方法，其特征在于，

所述左上角预设区域为宽是W高是H的矩形区域，W小于等于4，H小于等于4。

3.根据权利要求2所述的方法，其特征在于，

所述左上角预设区域的大小为4x4，或2x2。

4.根据权利要求1所述的方法，其特征在于，

所述左上角预设区域为三角形区域。

5.根据权利要求4所述的方法，其特征在于，

所述左上角预设区域为包括三个位置（0,0）、（0,1）和（1,0）的三角形区域，或者所述左上角预设区域为包括六个位置（0,0）、（0,1）、（1,0）、（0,2）、（1,1）和（2,0）的三角形区域。

6.根据权利要求1-5任一所述的方法，其特征在于，在所述解析索引值之前，所述方法还包括：

根据所述第一变换系数矩阵的宽和高确定所述索引值位于第一集合或者第二集合，所述第一集合仅包括两个取值，所述第二集合仅包括三个取值。

7.根据权利要求6所述的方法，其特征在于，

在所述当前编码单元为色度编码单元的情况下，如果色度变换系数矩阵的宽和高均大于4，则所述索引值位于所述第一集合，其中所述色度变换系数矩阵为所述第一变换系数矩阵；

在所述当前编码单元为色度编码单元的情况下，如果色度变换系数矩阵的宽或高不大于4，则所述索引值位于所述第二集合。

8.根据权利要求6所述的方法，其特征在于，

在所述当前编码单元为亮度编码单元或者亮度色度编码单元的情况下，如果亮度变换系数矩阵的宽和高均大于4，则所述索引值位于所述第一集合，其中所述亮度变换系数矩阵为所述第一变换系数矩阵；

在所述当前编码单元为亮度编码单元或者亮度色度编码单元的情况下，如果亮度变换系数矩阵的宽或高不大于4，则所述索引值位于所述第二集合。

9.根据权利要求7-8任一所述的方法，其特征在于，所述第一集合对应的变换集包括一个变换矩阵，所述第一集合的取值包括0和1；所述第二集合对应的变换集包括两个变换矩阵，所述第二集合的取值包括0，1和2，其中0表示不采用LFNST方法，1表示采用变换集中的第0号矩阵作为所述变换矩阵，2表示采用变换集中的第1号矩阵作为所述变换矩阵。

10.根据权利要求1-5任一所述的方法，其特征在于，所述方法还包括：

根据所述变换块的宽和高确定使用M1xN1的变换矩阵还是M2xN2的变换矩阵，其中M2xN2的变换矩阵的数目少于M1xN1的变换矩阵的数目。

11.一种视频编解码设备，包括：相互耦合的非易失性存储器和处理器，所述处理器调用存储在所述存储器中的程序代码以执行如权利要求1-10任一项所述的方法。