[发明专利]基于霍夫变换的HEVC标准中帧内预测模式快速确定方法

摘要

本发明公开了一种在国际最新视频压缩标准HEVC中进行快速地确定帧内预测编码模式的方法。本方法先对当前预测单元(PU)进行边缘检测和霍夫(Hough)变换。然后，对检测出的直线的方向角的正切值进行统计分析，以根据这些启发式信息，提取出当前预测单元最可能的边缘走向，优化地选择候选的预测模式，供码率与失真度粗选(RMD)过程检测确定较优的编码模式(MPM)，并用码率与失真度精选(RDO)过程进行检测，以确定最终的编码模式。实验表明本发明所提出的方法能够使HEVC的运行速度提高20％以上。

主权项

一种在国际视频压缩标准HEVC中进行快速地确定帧内预测编码模式的方法，所述方法包括：步骤一，对当前预测单元(PU)，判断其尺寸是否为4×4，如是，则进行步长为1的模式亚采样，并直接跳到步骤八；否则，利用Canny算子对当前PU进行运算；步骤二，根据Canny算子的运算的结果，用形态学的方法对边缘进行细化；步骤三，选择合适的阈值进行PU中边缘点的提取和连接；步骤四，对当前PU，利用Hough变换检测直线边缘像素点，即，保留处于某一直线上的边缘点，去除处于曲线上的边缘点；步骤五，对各直线边缘，确定其与水平方向上的角度差θ，和其正切值tanθ；步骤六，根据各帧内预测模式的预测角度的正切值的范围，和检测出的当前PU中各直线边缘的正切值，用统计直方图确定当前PU中落在每一个范围内的直线边缘像素点之和；步骤七，根据此统计直方图，确定直方图中的直线边缘像素之和最大的几个预测模式；步骤八，根据当前PU的尺寸，和得到的统计直方图，确定进入模式粗选过程(RMD)的候选的帧内模式；步骤九，根据RMD过程，和当前PU的尺寸，确定进入模式精选过程(RDO)的候选的帧内模式；步骤十，根据RDO的结果，确定当前PU的优化的帧内预测模式。