[发明专利]一种高效视频编码零系数提前检测方法

权利要求书

1.一种高效视频编码零系数块提前检测方法，其特征在于，包括以下步骤：

1)设定量化参数、二维DCT变换矩阵、残差矩阵以及TU块的大小；

2)计算零块检测阈值Th₀,Th₁,Th₂,......Th_N-1；

3)对于一个大小为N的TU块通过以下公式计算其对应的检测参数SAD：

$SAD=\underset{x=0}{\overset{N-1}{\Σ}}\underset{y=0}{\overset{N-1}{\Σ}}\left|e(x,y)\right|$

其中，e(x,y)为TU块中的元素，0＜＝x,y＜＝N-1，x、y为整数；

4)对于一个大小N的TU块，首先判断SAD是否满足SAD＜Th₀，若是，则判断该TU块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD能否满足SAD＜Th_j，j＝1,2,...,N-1，若是，则对最终量化块Z(0,0)到Z(j-1,j-1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)进行下一个残差块的检测，若否，则执行步骤6)；

6)对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)进行下一个残差块的检测；

所述的步骤2)中零块检测阈值Th_j的计算公式为：

${\mathrm{Th}}_j=\frac{\left(2^{\frac{9}{2}+2i}\right)}{\mathrm{\γ}{\sqrt{\mathrm{\π}\[C_i{R}_i{C}_i^T\]}}_{0,0}{\[C_i{R}_i{C}_i^T\]}_{j,j}}\·(\frac{2^{{\mathrm{qbits}}_i-r_i}}{m}\·2^{9+2i}-2^{8+2i}-2^i\·|\underset{x=0}{\overset{2^{i+2}-1}{\Σ}}{C}_i\left(0,x\right)\left|\right)$

其中γ＝3，[·]_u,u为矩阵中第(u,u)个位置的元素，i＝0,1,2,3，相对于N＝4,8,16,32，0≤j＜N，N为TU块的大小，qbits_i＝19-i+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，Q_p为量化参数，r_i＝F＜＜(qbits_i-9)，F是量化偏移量，＜＜表示左移操作符，R_i为残差矩阵，为相关系数，C_i为二维DCT变换矩阵，其中，C₁,C₂,C₃通过HEVC标准得出。