[发明专利]一种高效视频编码零系数提前检测方法

摘要

本发明涉及一种高效视频编码零系数块提前检测方法，包括1)设定量化参数Qp、二维DCT变换矩阵C、残差矩阵Re以及TU块的大小N；2)根据Qp、C、Re和N计算零块检测阈值；3)对于一个大小为N的TU块计算其对应的检测参数SAD；4)对于一个大小N的TU块，首先判断SAD是否满足SAD<Th0，若是，则判断该TU块为全零块，返回步骤3)，若否，则执行步骤5)；5)判断SAD能否满足SAD<Thj，j＝1，2，…，N‑1，若是，则对最终量化块Z(0，0)到Z(j‑1，j‑1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)，若否，则对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)。与现有技术相比，本发明具有可提高视频编码速度、降低编码计算复杂度且检测效率高等优点。

主权项

一种高效视频编码零系数块提前检测方法，其特征在于，包括以下步骤：1)设定量化参数、二维DCT变换矩阵、残差矩阵以及TU块的大小；2)计算零块检测阈值Th0,Th1,Th2,......ThN‑1；3)对于一个大小为N的TU块通过以下公式计算其对应的检测参数SAD：SAD=Σx=0N-1Σy=0N-1|e(x,y)|]]>其中，e(x,y)为TU块中的元素，0＜＝x,y＜＝N‑1，x、y为整数；4)对于一个大小N的TU块，首先判断SAD是否满足SAD＜Th0，若是，则判断该TU块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；5)判断SAD能否满足SAD＜Thj，j＝1,2,...,N‑1，若是，则对最终量化块Z(0,0)到Z(j‑1,j‑1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)进行下一个残差块的检测，若否，则执行步骤6)；6)对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)进行下一个残差块的检测；所述的步骤2)中零块检测阈值Thj的计算公式为：Thj=(292+2i)γπ[CiRiCiT]0,0[CiRiCiT]j,j·(2qbitsi-rim·29+2i-28+2i-2i·|Σx=02i+2-1Ci(0,x)|)]]>其中γ＝3，[·]u,u为矩阵中第(u,u)个位置的元素，i＝0,1,2,3，相对于N＝4,8,16,32，0≤j＜N，N为TU块的大小，qbitsi＝19‑i+floor(Qp/6)，floor(·)为取整函数，m是与Qp有关的乘数因子，Qp为量化参数，ri＝F＜＜(qbitsi‑9)，F是量化偏移量，＜＜表示左移操作符，Ri为残差矩阵，为相关系数，Ci为二维DCT变换矩阵，其中，C1,C2,C3通过HEVC标准得出。