[发明专利]一种提高HEVC编码器离散余弦变换处理速度的方法

摘要

本发明公开了一种提高HEVC编码器离散余弦变换处理速度的方法，包括：(1)在变换之前，计算块内残差绝对值之和，与L个依次递增的阈值作比较，判定变换块内的全零系数列，以及变换块是否为全零变换块；(2)变换块经过第一级一维离散余弦变换后，以变换结果的转置矩阵为输入，逐列地判定是否是全零系数列；(3)以第一级一维离散余弦变换所得的结果矩阵为输入，逐列地以第二级一维离散余弦变换的形式计算变换系数，在此过程中根据帕塞瓦尔能量保持定理检测全零系数列。被检测为全零变换块的，可忽略后续的变换和量化步骤；被检测为全零系数列的，可忽略该列后续的第二级一维离散余弦变换过程，从而提高编码效率。

主权项

一种提高HEVC编码器离散余弦变换处理速度的方法，包括：(1)为N×N的变换块预设L个依次递增的阈值，对于待处理的变换块，计算块内残差绝对值之和，并将残差绝对值之和逐个与所述阈值作比较，若存在大于残差绝对值之和的阈值，在所述大于残差绝对值之和的阈值中查找最小的阈值，提前判定变换块的二维离散余弦变换系数矩阵中与所述最小阈值对应的列以及列下标大于该列的所有列为全零系数列；(2)对变换块进行第一级一维离散余弦变换，逐列地处理第一级变换结果矩阵的转置矩阵，通过计算列向量的所有元素之和，求取变换块的二维离散余弦变换系数矩阵的列向量中第0个元素的值，通过计算列向量的所有元素的绝对值之和，求取二维离散余弦变换系数矩阵的列向量中除第0个元素之外的其它元素的上界值，根据所述第0个元素的绝对值和其它元素的上界值是否都小于由量化参数确定的阈值提前判断待检测的列是否是全零系数列；(3)以变换块经过第一级一维离散余弦变换所得的结果为输入，逐列地进行第二级一维离散余弦变换，计算二维离散余弦变换系数，累计所述变换系数的平方和，当所述待处理变换块变换前的各个残差值的平方和与所述累计所述变换系数的平方和的差值小于由量化参数确定的阈值，则提前判定二维离散余弦变换系数矩阵位于当前列之后的所有列为全零系数列。