[发明专利]一种基于直方图统计的HEVC帧内简化算法

权利要求书

1.一种基于直方图统计的HEVC帧内简化算法，其特征在于，包括如下步骤：

图像滤波预处理；

像素值直方图统计；

边缘点检测；

边缘点方向直方图统计；

获得最优划分结构；

映射预测方向区间；

获得最优预测模式；

完成帧内编码；

其中，对经过滤波预处理的图像划分成若干互不重叠的最大编码单元，基于最大编码单元进行像素值直方图统计，像素值直方图统计的步骤为：首先对于D比特数据深度视频的像素值在0～2^D-1,其中D＝8、10、12；然后，将0～2^D-1分成N个区间，即每个区间的宽度为dw1＝2^D/N，N0；最后统计落入每个区间的像素数目；

其中，边缘点检测采用Sobel算子，Sobel算子的检测模板如下：

其中，Sx为垂直方向边缘检测模板，Sy为水平方向边缘检测模板；利用Sobel算子做边缘点信息的检测公式如下：

SumY＝Sy*A SumX＝Sx*A

θ＝arctan(-SumX)/(SumY))-π/2＝θ＝π/2

其中，SumY为边缘水平方向特征值，SumX为边缘垂直方向特征值，Sum为边缘信息特征值，A为3*3的像素矩阵；其中θ为像素边缘点的方向角度，其范围在Sum大于第一阈值T1，则当前像素点为边缘点；

其中，边缘点方向直方图的统计步骤为：首先将分为M个区间，每个区间的区间宽度dw2＝π/M，其中M0，然后统计落入每个区间的边缘点数目；

其中，最大编码单元的大小为HEVC规定的64*64，直方图统计和存储均是以8*8为单位，获得最优划分块需要对比同一划分深度下四个块之间的相关性，其中，划分深度和块的大小之间的关系和HEVC标准规定的一致，即depth＝0对应64*64，depth＝1对应32*32，depth＝2对应16*16，depth＝3对应8*8，depth＝4对应4*4；对于大于8*8的划分块需要进行直方图合并，其中合并公式如下：

其中，PH表示像素值的直方图，j＝0、1、2、3表示64*64的编码CTU分成的4个32*32的编码CU；N表示将0～2^D-1分成N个区间；一个32*32分成的四个16*16块的直方图信息合并如下：

不同大小划分块边缘点角度直方图信息的统计如下公式：

其中AH表示角度直方图，M表示分成的M个方向区间；

其中，两个块直方图相似的前提是直方图的分布区间相似，区间分布相似的判断方法为：设直方图第一个不为0的区间标志为minH,最后一个不为0的区间标志为maxH；两个直方图相似的条件为：

abs(min H_i-min H_j)＝T2abs(max H_i-max H_j)＝T2,1＝T2N-1

其中i和j表示两个不同的直方图，T2表示设定的阈值，其中1＝T2N-1,其中N表示直方图共分成N个区间；

其中，同一深度下的不同块之间相关性的计算公式，如下：

Cov(Hi_depth,Hj_depth)＝α*Cov(PHi_depth,PHj_depth)+β*Cov(AHi_depth,AHj_depth)

α+β＝1,α＝0,β＝0,i＝0j＝1,2,3depth0

其中，α和β分别表示像素值直方图相关性和边缘点方向直方图相关性的加权系数，i和j表示同一深度下不同块，同一深度下不同块的满足直方图相似的条件且Cov(Hi_depth,Hj_depth)＝α*Cov(PHi_depth,PHj_depth)+β*Cov(AHi_depth,AHj_depth)均小于第二阈值T时，不必进行当前块划分，即depth＝depth-1，终止操作得到最优划分深度depth，否则depth＝depth+1，进行下一深度的判断，直到depth＝3，则终止；

其中，不同划分深度下相关性判断阈值T是不同的，计算公式如下：

T＝TH*(4-depth)

其中，TH为设定的固定经验值，depth为当前块的划分深度，depth＝0,1,2,3；

其中，获得了最优划分深度后再进行最优模式的确定，最优预测模式通过边缘点直方图统计的主方向经过一定规则映射到HEVC帧内编码对应的35种方向中的一个编码模式，然后根据确定的编码模式得到编码模式集合，最后遍历编码集合决策得到最终预测模式；其中，映射步骤如下：

(1)获得最优划分结构下当前编码块的边缘点主方向，即为边缘点方向直方图区间最大值对应的方向，用AH(m)表示，则AH(m)＝max(AH(1),AH(2)......AH(M-1))；其中，M方向直方图划分的M个方向区间；

(2)获得角度区间最大值对应的角度值，计算公式如下：

(3)根据步骤(2)中获得的角度，映射到HEVC帧内编码方向中；首先根据HEVC帧内预测模式方向，可以得到除DC和plannar外，每一个模式对应的角度，即：

其中Mode_i表示HEVC中的33种角度模式，然后选择ModeAng和MainAng差值绝对值最小的Mode即标记为映射的主模式Mode_main；

(4)得到需要遍历的模式集合并根据步骤(3)中得到的Mode_main,模式集合获得准则为，以Mode_main为中心向前和向后各选择四个相邻的模式，另外加Mode＝0下的plannar模式和Mode＝1下的DC模式，模式集合用Mode_C表示，得到如下的结果：

其中，所述模式集合中选择SAD最小的作为最优的预测模式，其中SAD的计算如下所示：

其中，N表示当前编码块的大小为N*N，Src(i)表示原始像素值，pred(i，Mode)表示Mode预测模式下的预测像素值；即最优的预测模式bestMode如下所示：