[发明专利]自适应变换类型的空间变化变换

说明书

本发明公开了一种采用自适应变换类型的SVT的视频解码方法和装置。所述方法包括：确定对残差块使用SVT‑V或SVT‑H；确定所述残差块的变换块的变换块位置；确定所述变换块的变换类型，其中，所述变换类型指示所述变换块的水平变换和垂直变换，其中，所述水平变换和所述垂直变换中的至少一个为DST‑7；基于所述变换块的所述变换类型、所述变换块位置和变换系数重建所述残差块。采用本发明的解决方案可以提高解码质量。

本申请要求2018年5月31日提交的第62678738号美国临时专利申请的优先权，其全部内容特此以全文引用的方式并入。

技术领域

本发明涉及视频解码技术，具体地，涉及采用自适应变换类型的空间变化变换的视频解码方法和相关装置。

背景技术

如H.265等视频编码是基于预测加变换的框架。在编码器处，图像块(包括多个像素)可分解为预测块和残差块，并将预测信息(例如，预测模式和运动矢量信息)和残差信息(例如，变换模式、变换系数和量化参数)编码到码流中。在解码器处，解析预测信息和残差信息。根据所述预测信息，进行帧内预测或帧间预测以生成预测像素点。根据所述残差信息，依次进行反量化和逆变换以生成残差像素点。将所述预测像素点和所述残差像素点相结合以获得重建像素点。

为了提高视频编码效率，开发了空间变化变换(SVT)。对于宽度为w，高度为h(即，w×h)的矩形残差块，使用小于残差块的变换块对残差块的一部分进行变换，而不对残差块的其余部分进行编码。SVT的基本原理是，残差在残差块中可能并非均匀分布。使用具有自适应位置的较小变换块可以捕获残差块中的主要残差，从而相比对变换残差块中的所有残差进行变换，可以获得更高的编码效率。

当对大小为w×h的残差块应用SVT时，将变换块的大小和位置信息编码到视频码流中，因此解码器可以重建变换块并将其编排到与残差块相关联的预测块的正确位置。

在一个示例中，有三种类型的SVT块可用于残差块，如图1所示。

(1)SVT-I：w_t＝w/2，h_t＝h/2，其中，w_t和h_t分别表示变换块的宽度和高度，w和h分别表示残差块的宽度和高度。换句话说，变换块的宽度和高度均为残差块的宽度和高度的一半。

(2)SVT-II：w_t＝w/4，h_t＝h；

(3)SVT-III：w_t＝w，h_t＝h/4；

将SVT块的类型信息编码到码流中。

变换块的位置由到残差块的左上顶点的位置偏移(x，y)表示，其中，x表示变换块的左上顶点与残差块的左上顶点之间以像素为单位的水平距离，y表示变换块的左上顶点与残差块的左上顶点之间以像素为单位的垂直距离。使变换块位于残差块内部的每个位置都是一个候选位置。对于残差块，一种类型的SVT的候选位置的数量为(w-w_t+1)×(h-h_t+1)。更具体地，对于16×16残差块，当使用SVT-I时，有81个候选位置；当使用SVT-II或SVT-III时，有13个候选位置。将x值和y值编码到码流中。为了降低SVT-I的复杂度，从81个候选位置中选择32个位置的子集作为SVT-I的允许候选位置。

该SVT方案的一个缺点是位置信息的信令开销大。此外，编码器复杂度可能随着率失真优化(Rate-Distortion Optimization，RDO)中测试的位置数量的增加而明显增加。由于候选位置的数量随着残差块大小的增加而增加，因此，对于较大的(如32×32或64×128)残差块，开销甚至可能会更大。

该SVT方案的另一个缺点是变换块的大小是残差块的四分之一。变换块可能不足以大到覆盖残差块中的主要残差。

因此，开发了简化的SVT。使用两种类型的SVT块进行残差编码，其表示为SVT-H和SVT-V，如图2所示。

(1)SVT-V：w_t＝w/2且h_t＝h。