[发明专利]一种基于决策树的HEVC帧内编码单元快速划分方法

说明书

一种基于决策树的HEVC帧内编码单元快速划分方法，包括步骤：通过构造直方图获取当前编码单元的纹理特征，纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差；根据纹理特征采用决策树模型预测当前编码单元的编码深度。由于通过构造直方图分析当前编码单元的纹理特征，并利用该纹理特征通过决策树模型进行编码尺度的自适应选择，跳过不必要的编码尺度计算，实验结果表明本申请的方法在帧内编码时平均节省31％的编码时间，而平均比特流增加2.6％左右，同时视频的PSNR基本维持不变，极大地降低了HEVC的编码复杂度。

技术领域

本发明涉及高效视频编码(High Efficiency Video Coding，HEVC)技术领域，具体涉及一种基于决策树的HEVC帧内编码单元快速划分方法。

背景技术

高效率视频编码(High Efficiency Video Coding，HEVC)是继H.264之后，又一新的视频编码标准。相比H.264，HEVC引进了大量的创新技术，在提供相同视频质量的同时，可节省将近50％比特率。但是，HEVC视频编码的更高的性能是以更高的计算复杂度为代价的，导致HEVC难以有效地应用于实时通信应用。

例如，对于编码的块结构，HEVC采用树状结构，利用四叉树划分，可以将编码单元分成更小的块。每帧图像被分割成若干个编码树单元(Coding Tree Units，CTU)，每个CTU按照递归方式可以划分为不同深度(depth)的编码单元(Coding Units，CU)。其中，CU被定义为正方形单元，有8×8、16×16、 32×32、64×64共4种尺寸大小。对于HEVC帧内编码，每一深度的CU可以划分成2N×2N和N×N两种预测单元(Prediction Units，PU)，每个预测单元进行35种帧内预测模式搜索。

在HEVC测试模型HM中，四叉树递归划分过程如下：首先，对尺寸为64× 64深度depth＝0的最大编码单元(Largest Coding Units，LCU)进行35种帧内预测模式搜索，求出最小率失真代价J(CU₀)。然后，将该CU划分为4个子CU，每个子CU的尺寸为32×32，深度为1，分别对每个子CU进行帧内预测，计算出各自的率失真代价J(CU_1，i)(i＝0，1，2，3)。如此递归地划分下去，直至子CU的尺寸为8×8，即depth为3时，不再继续划分。接着对已完成划分的LCU进行自下向上的修剪。如果子CU的率失真代价之和小于其对应的父CU的率失真代价，则保留这个CU分割，否则继续往上修剪。

与H.264采用16×16的宏块划分方式相比，HEVC采用64×64的LCU四叉树划分方式可以减少12％的码率。然而，在HEVC测试模型HM中，整个CU划分过程是在4个深度级范围内逐级比较率失真代价的，并选择率失真代价最小的作为最佳划分结果。这种遍历方法，需进行多次的率失真代价相关计算和比较，虽然可以获得更精确的图像划分结果，但也给HEVC编码器带来了巨大的复杂度，限制了HEVC的实际应用。

因此，在保持HEVC视频主客观质量的前提下，如何降低HEVC视频编码的算法复杂度，加快编码速度，满足实际应用，成为HEVC视频编码研究的重要课题。

发明内容

针对HEVC视频编码的算法复杂的问题，本申请提供一种基于决策树的HEVC 帧内编码单元快速划分方法，包括步骤：

通过构造直方图获取当前编码单元的纹理特征，纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

根据纹理特征采用决策树模型预测当前编码单元的编码深度。

一种实施例中，根据纹理特征采用决策树模型预测当前编码单元的编码深度之前，还包括训练决策树模型的步骤：

通过HEVC测试模型HM获取学习帧编码单元的最优编码深度；