[发明专利]一种基于零块分布的HEVC帧间预测模式快速判定方法

权利要求书

1.一种基于零块分布的HEVC帧间预测模式快速判定方法，其特征在于，操作步骤如下：

1)预测分割：编码单元分别进行Merge模式和帧间2N×2N模式预测，获取残差后一分为四；

2)零块判决及其数目统计：对残差块进行N×N变换和量化，应用设计的新零块公式进行零块判决并统计分割后当前CU在Merge模式和帧间2N×2N模式下的零块个数，分别记为M与N；

3)分析零块分布选取预测模式：若M＝4，且N＝4，则选取SKIP模式；若M！＝4，当N＝4则选取Inter_2N×2N；当N＝3，大部分选取Inter_2N×2N模式，若视频序列水平运动较多，Inter_2N×N更适合；若视频序列垂直运动较多，Inter_N×2N效果更好，而AMP_VER模式适当考虑；当N＝2，零块分布呈水平分布时，选取Inter_2N×N；垂直分布时，选取Inter_N×2N；对角分布时，需考虑每一种模式；当N＝1或0，需依次遍历各模式；

4)计算时间复杂度：根据步骤3)得到的结果，计算选取每类下各预测单元PU所选取预测模式的率失真代价值；

5)决定预测模式：根据步骤4)中得到的结果，比较各PU预测模式的率失真代价值大小，确定最小率失真代价值的预测模式为当前PU的预测模式。

2.根据权利要求1所述的基于零块分布的HEVC帧间预测模式快速判定方法，其特征在于，所述步骤1)中，将CU经Merge模式和帧间2N×2N模式预测得到的残差块划分成4个N×N的残差块。

3.根据权利要求1所述的基于零块分布的HEVC帧间预测模式快速判定方法，其特征在于，所述步骤2)中，指对残差块即TU块系数进行整数DCT变换，对一个N×N变换单元计算如下：

Y＝HXH^T

其中，X为N×N残差系数矩阵，Y为经过变换后的系数矩阵，H为N×N变换矩阵，其定义如下所示：

H(k,n)=ak2Ncos[(n+12)kπN]]]>

其中，k,n＝0,1,……,N-1；

对变换后Y中的系数Y_i,j进行量化，为了提高量化过程的率失真性能，采用RDOQ量化方法，给变换系数Y_i,j提供多个可选的量化值Z_(i,j),1，Z_(i,j),2，……，Z_(i,j),k，利用RDOQ准则从中选出一个最优的量化值，如下所示：

Z*=argmink=1,2,...,m{D(Yi,j,Z(i,j),k)+λ·R(Z(i,j),k)}]]>

其中D为Y_i,j量化为Z_(i,j),k时的失真，R表示Y_i,j量化为Z_(i,j),k时所需编码比特数，λ为拉格朗日因子，Z^*为最优量化值；得到所有经过RDOQ量化后的Z_i,j系数绝对值和，如下式：

SQTC=Σi=0N-1Σj=0N-1|Zi,j|]]>

当通过上式计算得SQTC为零，则N×N变换单元定义为零块。