[发明专利]基于霍夫变换的HEVC标准中帧内预测模式快速确定方法

权利要求书

1.一种在国际最新视频压缩标准HEVC中进行快速地确定帧内预测编码模式的方法。所述方法包括： 

步骤一，对当前预测单元(PU)，判断其尺寸是否为4×4。如是，则进行步长为1的模式亚采样，并直接跳到步骤八。否则，利用Canny算子对当前PU进行运算。 

步骤二，根据Canny算子的运算的结果，用形态学的方法对边缘进行细化。 

步骤三，选择合适的阈值进行PU中边缘点的提取和连接。 

步骤四，对当前PU，利用Hough变换检测直线边缘像素点，即，保留处于某一直线上的边缘点，去除处于曲线上的边缘点。 

步骤五，对各直线边缘，确定其与水平方向上的角度差θ，和其正切值tanθ。 

步骤六，根据各帧内预测模式的预测角度的正切值的范围，和检测出的当前PU中各直线边缘的正切值，用统计直方图确定当前PU中落在每一个范围内的直线边缘像素点之和。 

步骤七，根据此统计直方图，确定直方图中的直线边缘像素之和最大的几个预测模式。 

步骤八，根据当前PU的尺寸，和得到的统计直方图，确定进入模式粗选过程(RMD)的候选的帧内模式。 

步骤九，根据RMD过程，和当前PU的尺寸，确定进入模式精选过程(RDO)的候选的帧内模式。 

步骤十，根据RDO的结果，确定当前PU的优化的帧内预测模式。 

2.如权利要求1所述的一种对宽度大于3的边缘的细化的方法。在所述步骤二中，采用形态学的方法对检测出的宽度大于3的边缘进行细化，即，进行形态学的腐蚀运算，其腐蚀的模板元素为 

。

3.如权利要求1所述的一种采用迭代法选取最佳阈值提取边缘点的方法。所述步骤三中，采用阈值T_h进行边缘点提取。采用迭代法选取最佳阈值。迭代法实现步骤如下： 

求出图像当前PU中最小值Z_min、最大值Z_max，则初始阀值T₀=(Z_min+Z_max)/2。根据阀值T_k(k为迭代次数)将图像分割成边缘像素点和非边缘像素点，计算两部分的平均值Z_O、Z_B，即 

这里，h_i和h_j分别表示边缘像素点和非边缘像素点的值。计算出Z_O、Z_B后，用式子 

T_k+1=(Z_O+Z_B)/2 

来计算出新阀值T_K+1。 

若T_k+1=T_K，即T_k为所求阈值，则算法到此结束，否则转到步骤(2)。迭代计算直至收敛于某个稳定的阈值，此阈值即为最终结果T_h。 

4.如权利要求1所述的采用双阈值方法。即，从候选边缘点中检测和连接最终边缘像素点的方法。在所述步骤三中，在边缘点的提取时，所采用的阈值为T_h，边缘点的连接时采用的阈值应当比T_h小，以连接边缘。本发明中在边缘点的连接时采用的阈值为T_h/2。即，经第一和第二步处理后，值大于T_h的像素点为边缘点。然后以这些边缘点为种子，寻找与其相邻的值大于T_h/2的像素点，加为边缘像素点。然后，重复这一过程，直到PU中所有的像素点都扫描过一遍。 

5.如权利要求1所述的确定当前PU的边缘走向的方法。即，根据各帧内预测模式的预测角度的正切值的范围，和检测出的当前PU中各直线边缘的正切值，用统计直方图确定当前PU中落在每一个范围内的直线边缘像素点之和。 

6.如权利要求1所述的，根据当前PU的尺寸，和得到的统计直方图，确定进入RMD检测过程的候选模式的方法。对尺寸4×4、8×8、16×16、32×32、和64×64，分别选择9、7、5、3、1个候选模式进入到RMD的检测过程。其中对PU尺寸为8×8、16×16、32×32、和64×64的预测单元，选择统计直方图中直线边缘像素点之和大的候选模式进入到RMD检测过程。 

7.如权利要求1所述的，根据当前PU的尺寸，和RMD的结果，确定进入RDO检测过程的候选模式的方法。对尺寸4×4、8×8、16×16、32×32、和64×64，分别选择5、4、3、2、1个候选模式进入到RDO的检测过程。选择的标准为RMD过程后，码率和预测失真度小的候选模式进入到RDO的检测过程。