[发明专利]一种基于决策树的HEVC帧内编码单元快速划分方法

权利要求书

1.一种基于决策树的HEVC帧内编码单元快速划分方法，其特征在于，包括步骤：

通过构造直方图获取当前编码单元的纹理特征，所述纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

根据所述纹理特征采用决策树模型预测当前编码单元的编码深度，具体为：

根据纹理特征利用决策树对当前编码单元进行划分；

计算当前编码单元的编码深度的率失真代价；

判断所述率失真代价是否小于当前编码单元相应深度级的率失真代价门限值，所述率失真代价门限值的计算公式为：其中，和δ²(RD_d)分别表示编码深度级d所对应的率失真代价的均值和方差，α用于调整门限值的大小；

若小于则终止划分，并输出当前编码单元的编码深度，否则对当前编码单元继续划分；

还包括对当前编码单元的编码深度进行修正的步骤：

判断与当前编码单元平行的三个编码单元的编码深度是否相同，若相同，则将当前编码单元的编码深度修正为其父节点的编码深度；

判断当前编码单元的编码深度是否均大于相邻划分的编码单元的编码深度，若是，则将当前编码单元的编码深度修正为其子节点的编码深度。

2.如权利要求1所述的HEVC帧内编码单元快速划分方法，其特征在于，根据纹理特征采用决策树模型预测当前编码单元的编码深度之前，还包括训练决策树模型的步骤：

通过HEVC测试模型HM获取学习帧编码单元的最优编码深度；

获取学习帧编码单元的纹理特征，所述纹理特征包括学习帧编码单元的边缘点数目、亮度值的方差、学习帧编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

通过所述最优编码深度和纹理特征训练所述决策树模型。

3.如权利要求1或2所述的HEVC帧内编码单元快速划分方法，其特征在于，获取边缘点数目的具体步骤为：

分别计算出编码单元的横向梯度和纵向梯度；

根据所述横向梯度和纵向梯度计算像素点的梯度值，并获取梯度图；

利用最大类间方差方法对所述梯度图进行二值化分割，并将梯度值大于门限值的像素点作为边缘点；

统计编码单元的边缘点的数目。

4.如权利要求3所述的HEVC帧内编码单元快速划分方法，其特征在于，分别计算出编码单元的横向梯度和纵向梯度的步骤为：

利用Sobel算子与原始图像作卷积,分别计算出编码单元的横向梯度和纵向梯度,具体为：

其中,G_x为横向梯度,G_y为纵向梯度,Y为原始图像。