[发明专利]图像编码系统中的变换方法和用于该变换方法的设备

权利要求书

1.一种由解码设备执行的变换方法，该变换方法包括以下步骤：

获得针对目标块的变换系数；

确定针对所述目标块的不可分二次变换NSST集；

基于NSST索引选择所述NSST集中所包括的多个NSST核中的一个；以及

通过基于所选择的NSST核对所述变换系数进行不可分二次变换来生成修正的变换系数，

其中，基于帧内预测模式和目标块的大小中的至少一个来确定针对所述目标块的所述NSST集。

2.根据权利要求1所述的方法，其中，所述NSST集是包括4×4NSST核和8×8NSST核的混合NSST集。

3.根据权利要求2所述的方法，其中，指派给所述8×8NSST核的索引值小于指派给所述4×4NSST核的索引值。

4.根据权利要求2所述的方法，其中，如果所述目标块的大小大于预定义的参考大小，则指派给所述8×8NSST核的索引值小于指派给所述4×4NSST核的索引值。

5.根据权利要求2所述的方法，其中，所述NSST集中所包括的NSST核的数目是可变的。

6.根据权利要求1所述的方法，所述方法还包括以下步骤：

获得混合类型信息；以及

基于所述混合类型信息来确定是否使用混合NSST集。

7.根据权利要求6所述的方法，其中，

如果所述混合类型信息的值为0，则使用包括8×8NSST核或4×4NSST核的非混合NSST集，并且

如果所述混合类型信息的值不为0，则使用包括4×4NSST核和8×8NSST核的混合NSST集。

8.根据权利要求1所述的方法，其中，基于所述帧内预测模式和所述目标块的大小二者来确定针对所述目标块的所述NSST集。

9.根据权利要求1所述的方法，其中，所述NSST索引的值被可变长度二进制化。

10.根据权利要求9所述的方法，其中，根据截短一元TU方案将所述NSST索引的值二进制化。

11.根据权利要求1所述的方法，其中，

以基于上下文的解码为基础获得所述NSST索引的值，并且

基于所述目标块的大小、所述帧内预测模式、混合类型信息的值和所述NSST集内的最大索引值中的至少一个来确定用于所述NSST索引的值的基于上下文的解码的上下文模型。

12.一种解码设备，该解码设备包括：

反量化器，该反量化器被配置为通过对目标块的量化变换系数执行反量化来获得针对所述目标块的变换系数；以及

逆变换器，该逆变换器被配置为确定针对所述目标块的不可分二次变换NSST集，基于NSST索引选择所述NSST集中所包括的多个NSST核中的一个，并且通过基于所选择的NSST核对所述变换系数进行不可分二次变换来生成修正的变换系数，

其中，所述逆变换器基于帧内预测模式和所述目标块的大小中的至少一个来确定针对所述目标块的所述NSST集。

13.根据权利要求12所述的设备，其中，所述NSST集是包括4×4NSST核和8×8NSST核的混合NSST集。

14.根据权利要求13所述的设备，其中，指派给所述8×8NSST核的索引值小于指派给所述4×4NSST核的索引值。

15.根据权利要求13所述的设备，其中，所述NSST集中所包括的所述NSST核的数目是可变的。