[发明专利]一种高效视频编码全零4×4系数块提前检测方法

摘要

本发明涉及一种高效视频编码全零4×4系数块提前检测方法，包括以下步骤1)设定量化参数Qp和二维DCT变换矩阵C；2)根据Qp、C以及需检测的残差块计算全零块检测的阈值Th1和Th2；3)对于一个4×4残差块计算其对应的检测参数SAD；4)判断SAD是否满足SAD＜Th1，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；5)判断SAD是否满足SAD＜Th2，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)。与现有技术相比，本发明具有可提高视频编码速度、降低编码计算复杂度且检测效率高等优点。

主权项

一种高效视频编码全零4×4系数块提前检测方法，其特征在于，包括以下步骤：1)设定量化参数Qp和二维DCT变换矩阵C；2)根据Qp、C以及需检测的4×4残差块计算全零块检测的阈值Th1和Th2；3)对于一个4×4残差块计算其对应的检测参数SAD：SAD=Σx=03Σy=03|e(x,y)|]]>其中，e(x,y)为4×4残差块中的元素，0≤x,y≤3，x、y为整数；4)判断SAD是否满足SAD＜Th1，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；5)判断SAD是否满足SAD＜Th2，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)；所述的步骤2)中阈值Th1的计算公式为：其中，r＝2qbits‑1，qbits＝19+floor(Qp/6)，floor(·)为取整函数，m是与Qp有关的乘数因子，C(i,x)为矩阵C中的元素，Cmax是矩阵C中绝对值最大的元素；所述的步骤2)中阈值Th2的计算步骤为：a)计算4×4矩阵其中，C(u,:)表示矩阵C的第u行向量，0≤u,v≤3，操作符|·|abs表示将矩阵中的每个元素用其绝对值来代替；b)将4×4残差块分划为四个区域Ri，1≤i≤4，形成残差矩阵R＝[R1,R2,R3,R4]：R1＝{(x,y)|x＝1,2,y＝1,2}R2＝{(x,y)|x＝0,3,y＝1,2}R3＝{(x,y)|x＝1,2,y＝0,3}R4＝{(x,y)|x＝0,3,y＝0,3}每个区域元素绝对值的和Si定义如下：Si=ΣxΣy|e(x,y)|,∀(x,y)∈Ri,1≤i≤4;]]>c)根据4×4矩阵计算检测全零系数的阈值Tha、Thb、Thc：∀(u,v)∈{(0,1),(2,1),(0,3),(2,3),(1,0),(1,2),(3,0),(3,2)}]]>∀(u,v)∈{(1,1),(1,3),(3,1),(3,3)}]]>其中，d)计算Th2：Th2＝min{Tha,Thb,Thc}。