[发明专利]一种提高HEVC编码器离散余弦变换处理速度的方法

权利要求书

1.一种提高HEVC编码器离散余弦变换处理速度的方法，包括：

(1)为N×N的变换块预设L个依次递增的阈值，对于待处理的变换块，计算块内残差绝对值之和，并将残差绝对值之和逐个与所述阈值作比较，若存在大于残差绝对值之和的阈值，在所述大于残差绝对值之和的阈值中查找最小的阈值，提前判定变换块的二维离散余弦变换系数矩阵中与所述最小阈值对应的列以及列下标大于该列的所有列为全零系数列；

(2)对变换块进行第一级一维离散余弦变换，逐列地处理第一级变换结果矩阵的转置矩阵，通过计算列向量的所有元素之和，求取变换块的二维离散余弦变换系数矩阵的列向量中第0个元素的值，通过计算列向量的所有元素的绝对值之和，求取二维离散余弦变换系数矩阵的列向量中除第0个元素之外的其它元素的上界值，根据所述第0个元素的绝对值和其它元素的上界值是否都小于由量化参数确定的阈值提前判断待检测的列是否是全零系数列；

(3)以变换块经过第一级一维离散余弦变换所得的结果为输入，逐列地进行第二级一维离散余弦变换，计算二维离散余弦变换系数，累计所述变换系数的平方和，当所述待处理变换块变换前的各个残差值的平方和与所述累计所述变换系数的平方和的差值小于由量化参数确定的阈值，则提前判定二维离散余弦变换系数矩阵位于当前列之后的所有列为全零系数列。

2.如权利要求1所述的方法，其特征在于，如果步骤1判定所有的列为全零系数列，则提前判断所述待处理变换块为全零变换块，跳过后续的第一级和第二级一维离散余弦变换，置变换块的离散余弦变换系数矩阵的所有元素为0；如果步骤1判定一列为全零系数列，则在后续的第二级一维离散余弦变换中忽略该列，直接置所述待处理变换块的二维离散余弦变换系数矩阵对应列的所有元素为0。

3.如权利要求1所述的方法，其特征在于，L≤N，每个阈值分别对应二维离散余弦变换系数矩阵的一列，第i个阈值为TH(i)·qStep，其中qStep为由量化参数QP确定的量化步长，TH(i)为阈值系数，TH(0)对应所述系数矩阵的第0列，从TH(0)开始，L个阈值系数依次递增。

4.如权利要求3所述的方法，其特征在于，对应第x列的阈值系数为：

其中，c是一个大于等于3.0的预设常数，[ARA^T]_0，0和[ARA^T]_x，x分别代表A、R、和A^T三个矩阵相乘所得矩阵的(0，0)位置元素和(x，x)位置元素，上标T代表矩阵转置，A为离散余弦变换核矩阵，其中的元素为：

其中，若i＝0，则C_i＝1；否则，R为如下形式的矩阵：

其中(m，n)位置的元素为r(m，n)＝q^|m-n|，q为预设的常数。

5.如权利要求4所述的方法，其特征在于，所述预设常数q的取值可以在0.45到0.75之间。

6.如权利要求1所述的方法，其特征在于，所述步骤(2)中，对变换块进行第一级一维离散余弦变换的计算公式如下：

Y＝AX^T

其中X代表变换块，Y为第一级变换的结果矩阵。

7.如权利要求1所述的方法，其特征在于，所述步骤(2)中，所述逐列地处理第一级变换结果矩阵的转置矩阵，通过计算列向量的所有元素之和，求取变换块的二维离散余弦变换系数矩阵的列向量中第0个元素的值，按下式计算：

所述通过计算列向量的所有元素的绝对值之和，求取二维离散余弦变换系数矩阵的列向量中除第0个元素之外的其它元素的上界值，按下式计算：

其中，y_n(i)代表第一级变换结果矩阵的第n列第i个元素，f_n(m)代表二维离散余弦变换系数矩阵的第n列第m个元素。

8.如权利要求1所述的方法，其特征在于，所述步骤(3)中，以变换块第一级一维离散余弦变换所得的结果为输入，逐列地进行第二级一维离散余弦变换，计算公式如下：

F＝AY^T。