[发明专利]用于改进的隐式变换选择的方法和装置

权利要求书

1.一种用于解码器的视频解码方法，其特征在于，所述方法包括：

从已编码视频码流中获取变换块信令信息；

确定(i)所述变换块信令信息是否指示隐式变换方案，以及(ii)低频不可分离变换LFNST和基于矩阵的帧内预测模式MIP中的至少一个是否无效；以及

响应于确定所述变换块信令信息指示所述隐式变换方案，并且所述低频不可分离变换LFNST和基于矩阵的帧内预测模式MIP中的至少一个被发信号通知为无效时，

(i)基于编码块单元CU的大小确定主变换类型，以及

(ii)根据确定的主变换类型，对从所述编码块单元CU分区得到的变换块执行主变换。

2.根据权利要求1所述的方法，其特征在于，确定所述主变换类型包括：

确定是否启用变换跳过模式；以及

响应于确定所述变换跳过模式未启用，

(i)响应于所述编码块单元CU的宽度等于或大于T1且等于或小于T2，确定用于所述变换块的水平变换的变换类型为DST-7；

(ii)响应于所述编码块单元CU的所述宽度小于T1或大于T2，确定用于所述变换块的所述水平变换的变换类型为DCT-2；

(iii)响应于所述编码块单元CU的高度等于或大于T1且等于或小于T2，确定用于所述变换块的垂直变换的变换类型为DST-7；以及

(iv)响应于所述编码块单元CU的所述高度小于T1或大于T2，确定用于所述变换块的所述垂直变换的变换类型为DCT-2。

3.根据权利要求2所述的方法，其特征在于，所述T1等于2个像素、4个像素或8个像素中的一个，并且T2等于4个像素、8个像素、16个像素或32个像素中的一个。

4.根据权利要求1所述的方法，其特征在于，响应于确定所述变换块信令信息指示所述隐式变换方案，并且发信号通知所述低频不可分离变换LFNST或基于矩阵的帧内预测模式MIP中的所述至少一个为真，所述方法包括以下中的至少一个：

(i)为所述变换块确定第一变换类型DCT-2；以及

(ii)为所述变换块确定为非DCT-7的第二变换类型，所述第二变换类型包括DST-1、DCT-5、复合正交变换COT或卡亨南-洛维karhunen-loève变换中的至少一个。

5.根据权利要求1所述的方法，其特征在于，响应于确定所述变换块信令信息指示所述隐式变换方案，并且发信号通知所述基于矩阵的帧内预测模式MIP为假，其指示所述基于矩阵的帧内预测模式MIP未应用于所述变换块，所述方法包括以下中的至少一个：

(i)响应于所述编码块单元CU的宽度等于或大于T1且等于或小于T2，确定用于所述变换块的水平变换的变换类型为DST-7；

(ii)响应于所述编码块单元CU的所述宽度小于T1或大于T2，确定用于所述变换块的所述水平变换的变换类型为DCT-2；

(iii)响应于所述编码块单元CU的高度等于或大于T1且等于或小于T2，确定用于所述变换块的垂直变换的变换类型为DST-7；以及

(iv)响应于所述编码块单元CU的所述高度小于T1或大于T2，确定用于所述变换块的所述垂直变换的变换类型为DCT-2。

6.根据权利要求5所述的方法，其特征在于，所述T1和T2指示以下至少一个：

T1等于2个像素，并且T2等于4个像素或8个像素之一；

T1等于4个像素，并且T2等于4个像素或8个像素之一；

T1等于8个像素，并且T2等于8个像素、16个像素或32个像素之一；以及

T1等于16个像素，并且T2等于16个像素或32个像素之一。