[发明专利]一种高效视频编码全零4×4系数块提前检测方法

权利要求书

1.一种高效视频编码全零4×4系数块提前检测方法，其特征在于，包括以下步骤：

1)设定量化参数Q_p和二维DCT变换矩阵C；

2)根据Q_p、C以及需检测的4×4残差块计算全零块检测的阈值Th₁和Th₂；

3)对于一个4×4残差块计算其对应的检测参数SAD：

$SAD=\underset{x=0}{\overset{3}{\Σ}}\underset{y=0}{\overset{3}{\Σ}}\left|e(x,y)\right|$

其中，e(x,y)为4×4残差块中的元素，0≤x,y≤3，x、y为整数；

4)判断SAD是否满足SAD＜Th₁，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD是否满足SAD＜Th₂，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)；

所述的步骤2)中阈值Th₁的计算公式为：

其中，r＝2^qbits-1，qbits＝19+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，C(i,x)为矩阵C中的元素，C_max是矩阵C中绝对值最大的元素；

所述的步骤2)中阈值Th₂的计算步骤为：

a)计算4×4矩阵其中，C(u,:)表示矩阵C的第u行向量，0≤u,v≤3，操作符|·|_abs表示将矩阵中的每个元素用其绝对值来代替；

b)将4×4残差块分划为四个区域R_i，1≤i≤4，形成残差矩阵R＝[R₁,R₂,R₃,R₄]：

R₁＝{(x,y)|x＝1,2,y＝1,2}

R₂＝{(x,y)|x＝0,3,y＝1,2}

R₃＝{(x,y)|x＝1,2,y＝0,3}

R₄＝{(x,y)|x＝0,3,y＝0,3}

每个区域元素绝对值的和S_i定义如下：

$S_i=\underset{x}{\Σ}\underset{y}{\Σ}\left|e(x,y)\right|,\∀(x,y)\∈R_i,1\≤i\≤4;$

c)根据4×4矩阵计算检测全零系数的阈值Th_a、Th_b、Th_c：

$\∀(u,v)\∈\{(0,1),(2,1),(0,3),(2,3),(1,0),(1,2),(3,0),(3,2)\}$

$\∀(u,v)\∈\{(1,1),(1,3),(3,1),(3,3)\}$

其中，

d)计算Th₂：Th₂＝min{Th_a,Th_b,Th_c}。