[发明专利]通过使用约化变换来处理视频信号的方法和装置

权利要求书

1.一种基于约化变换对视频信号进行解码的方法，该方法包括以下步骤：

检查是否向当前块应用变换跳过；

基于未向所述当前块应用所述变换跳过，从所述视频信号获得指示所述当前块的变换内核的变换索引；

基于由所述变换索引指示的所述变换内核和所述当前块的大小来确定向所述当前块应用逆主变换的区域；以及

基于由所述变换索引指示的所述变换内核对应用逆主变换的区域执行所述逆主变换，

其中，确定应用所述逆主变换的区域的步骤通过以下步骤执行：

基于由所述变换索引指示的所述变换内核属于第一变换组，确定所述当前块的宽度和32中的较小值作为应用所述逆主变换的区域的宽度，并且确定所述当前块的高度和32中的较小值作为应用所述逆主变换的区域的高度，并且

基于由所述变换索引指示的所述变换内核属于第二变换组，确定所述当前块的宽度和16中的较小值作为应用所述逆主变换的区域的宽度，并且确定所述当前块的高度和16中的较小值作为应用所述逆主变换的区域的高度。

2.根据权利要求1所述的方法，其中，确定应用所述逆主变换的区域的步骤包括：将在所述当前块中除了应用所述逆主变换的区域之外的其余区域的系数视为0。

3.根据权利要求1所述的方法，其中，确定应用所述逆主变换的区域的步骤通过以下步骤执行：基于由所述变换索引指示的变换内核是预定义变换并且所述当前块的宽度和/或高度大于预定义大小，确定具有所述预定义大小的宽度和/或高度的区域为应用所述逆主变换的区域。

4.根据权利要求3所述的方法，其中，所述预定义变换是由DST7和/或DCT8的组合配置的多个变换组合中的任一个。

5.根据权利要求3所述的方法，其中，所述预定义大小为16。

6.根据权利要求1所述的方法，其中，所述第一变换组包括DCT2，并且所述第二变换组包括由DST7和/或DCT8的组合配置的多个变换组合。

7.一种基于约化变换对视频信号进行解码的设备，该设备包括：

处理器，该处理器被配置为：

检查是否向当前块应用变换跳过，

基于未向所述当前块应用所述变换跳过，从所述视频信号获得指示所述当前块的变换内核的变换索引，

基于由所述变换索引指示的所述变换内核和所述当前块的大小来确定向所述当前块应用逆主变换的区域，并且

对于应用所述逆主变换的区域，基于由所述变换索引指示的所述变换内核来执行所述逆主变换，

其中，所述处理器还被配置为：

基于由所述变换索引指示的所述变换内核属于第一变换组，确定所述当前块的宽度和32中的较小值作为应用所述逆主变换的区域的宽度，并且确定所述当前块的高度和32中的较小值作为应用所述逆主变换的区域的高度，并且

基于由所述变换索引指示的所述变换内核属于第二变换组，确定所述当前块的宽度和16中的较小值作为应用所述逆主变换的区域的宽度，并且确定所述当前块的高度和16中的较小值作为应用所述逆主变换的区域的高度。

8.一种由编码设备执行的对视频信号进行编码的方法，该方法包括以下步骤：

推导应用于当前块的变换内核，其中，所述变换内核包括一对水平变换内核和垂直变换内核；

基于所述变换内核来对所述当前块执行主变换；

基于应用于所述当前块的所述变换内核和所述当前块的大小来确定应用量化的所述当前块的区域的大小；

生成指示应用于所述当前块的所述变换内核的变换索引；以及

对包括所述变换索引的所述视频信号进行编码，

其中，基于由所述变换索引指示的所述变换内核属于第一变换组，所述当前块的宽度和32中的较小值被确定为应用所述主变换的区域的宽度，并且所述当前块的高度和32中的较小值被确定为应用所述主变换的区域的高度，并且

其中，基于由所述变换索引指示的所述变换内核属于第二变换组，所述当前块的宽度和16中的较小值被确定为应用所述主变换的区域的宽度，并且所述当前块的高度和16中的较小值被确定为应用所述主变换的区域的高度。