[发明专利]视帧内预测模式而定的残差块的自适应变换

权利要求书

1.一种对视频数据进行编码的方法，所述方法包含：

存储多个变换以供在于视频块的残差像素值与所述视频块的残差变换系数之间 进行变换中使用，其中所述多个变换中的每一者与至少一个预测模式相关联且所述 多个变换中的至少一部分为可分离方向性变换，其中所述可分离方向性变换中的每 一者表示为Y＝CXR，X为所述视频块的残差矩阵，Y为所述视频块的残差变换系 数矩阵，C为列变换矩阵，且R为行变换矩阵，其中X、Y、C、R中的每一者均 具有等于所述视频块大小的大小，且其中所述多个变换进一步包括离散余弦变换 DCT或整数变换；

基于所述视频块的预测模式的方向性而针对所述视频块选择所述多个变换中的 一者；

将所述所选变换应用于所述视频块以在所述视频块的所述残差像素值与所述视 频块的所述残差变换系数之间进行变换；以及

对所述视频块的所述残差变换系数进行熵译码。

2.根据权利要求1所述的方法，其中针对所述视频块选择所述多个变换中的一者包 含：

当所述预测模式展现有限方向性时，选择所述离散余弦变换DCT或所述整数变 换以应用于所述视频块；以及

当所述预测模式展现方向性时，选择所述多个所述可分离方向性变换中的一者以 应用于所述视频块。

3.根据权利要求2所述的方法，其进一步包含

从预测模式的集合中选择所述视频块的所述预测模式，所述预测模式包括单向性 预测模式及组合至少两个单向性预测模式的多向性预测模式，

其中在所述所选预测模式为DC单向性预测模式或组合至少两个指向实质上正交 方向的预测模式的多向性预测模式时，选择所述DCT或所述整数变换以应用于所 述视频块。

4.根据权利要求3所述的方法，其中所述预测模式的集合包括单向性预测模式及可能 的双向性预测模式的子集，所述双向性预测模式的子集包括至少一个包括所述单向 性预测模式中的每一者的组合。

5.根据权利要求1所述的方法，其中所述所选变换为可分离变换且所述视频块包含第 一视频块，所述方法进一步包含：

使用系数扫描次序来扫描所述第一视频块的所述残差变换系数；

收集与所述系数的至少一部分相关联的统计资料；

根据所述所收集的统计资料来调整所述系数扫描次序；以及

当至少一个后续视频块存在于所述第一视频块的译码单元中时，使用所述经调整 的系数扫描次序来扫描所述至少一个后续视频块的系数。

6.根据权利要求5所述的方法，其中：

收集所述系数的至少一部分的统计资料包含保持对应于所述系数的二维表示的 部分内的每一位置的计数值，其追踪所述系数的所述二维表示的所述部分内的所述 位置中的每一者具有非零系数的次数；且

调整所述系数扫描次序包含调整所述系数扫描次序以产生经调整的系数扫描次 序，所述经调整的系数扫描次序基于所述系数位置的计数值而以递减次序来扫描所 述系数位置。

7.根据权利要求6所述的方法，其进一步包含当所述计数值中的一者达到阈值计数值 时使所述所收集的统计资料正规化，其中使所述所收集的统计资料正规化包含将所 述计数值中的每一者减小一因数及将所述计数值复位为初始计数值的集合这两种 操作中的一者。

8.根据权利要求5所述的方法，其进一步包含从多个预测模式中选择所述视频块的所 述预测模式，其中收集统计资料并调整所述系数扫描次序包含针对所述多个预测模 式中的每一者而单独地收集统计资料并调整所述系数扫描次序。

9.根据权利要求5所述的方法，其中所述第一视频块及所述至少一个后续视频块属于 第一译码单元，所述方法进一步包含针对第二译码单元而重新初始化所述扫描次 序。