[发明专利]一种适用于HEVC标准的帧内预测编码单元划分方法

说明书

本发明公开了一种适用于HEVC标准的帧内预测编码单元划分方法，该方法的步骤为：从数据库中提取编码单元的训练样本；根据编码深度及训练样本训练出RBF‑SVM和Linear‑SVM决策模型；将训练后的决策模型移植到原始HM参考模型中；对于编码深度为0的帧内预测过程，运用RBF‑SVM进行划分决策；在编码深度为1的编码单元首先运用RBF‑SVM进行划分决策；在编码深度为2的编码单元采用级联SVM进行划分决策；在编码深度为3的编码单元执行原始帧内预测过程；结束当前编码树单元的帧内编码过程，遍历下一个编码树单元，输出帧内预测编码单元划分结果。本发明针对CU提前划分方式进行优化，提前判断划分，从而提高了编码速度，通过不同的纹理特征得到更好的预测效果。

技术领域

本发明涉及视频编解码技术领域，具体涉及一种适用于HEVC标准的帧内预测编码单元划分方法。

背景技术

在HEVC编码过程中，首先对当前帧划分为若干个最大编码块(LCU)，然后对每一个LCU采用四叉树划分方式划分得到尺寸跟小编码单元CU，最后根据不同划分方式产生的率失真代价(RD-Cost)比较选择最佳划分方式。其中，CU大小一共有四种，即8×8、16×16、32×32和64×64，帧内预测编码块划分过程，RD-Cost比较是从最小块进行回溯比较，选择RD-Cost最小的作为最佳划分方式。CU划分过程需要全遍历计算每种划分代价信息，这样的划分方式运算量非常大，对产生90％以上流量的移动端，因其计算能力受限且性能层次不齐，无法使用原始HEVC编码器实现实时编码。因此，如何在保证视频质量基本不变的情况下降低编码复杂度，快速高效地编码，是亟待解决的问题。

现有方法中有提出基于相邻CU划分关系来预测当前CU划分，这种方法通过统计相邻CU率失真大小与是否划分的数据，设定阈值作为CU是否需要划分的判定标准，从而提前终止划分，减少因划分计算带来的损耗代价。设定阈值的方式在没有统计相当大量数据下，阈值误判会很高，而且单个特征阈值也会增加误判可能性，这种方法作为判断当前CU划分的适用性不强。

发明内容

为了克服现有技术存在的缺陷与不足，克服现有技术单一特征值设定阈值判定当前CU是否划分带来的缺陷，本发明提供一种适用于HEVC标准的帧内预测编码单元划分方法，通过统计当前CU的纹理同质性梯度复杂度以及与子CU的同质性梯度复杂度差值，根据向量机SVM决策模型提前判断LCU划分方式，针对CU提前划分方式进行优化，提前判断划分，从而大大地提高了编码速度，缩减编码时间。

为了达到上述目的，本发明采用以下技术方案：

本发明提供一种适用于HEVC标准的帧内预测编码单元划分方法，包括下述步骤：

从CPIH数据库中提取编码单元的训练样本；

根据编码深度及所述训练样本训练出RBF-SVM和Linear-SVM决策模型；

将训练后的决策模型移植到原始HM参考模型中；

对于编码深度为0的帧内预测过程，运用RBF-SVM进行划分决策，若决策函数判断为终止划分，则进行帧内预测过程；若判断为提前划分，则跳过帧内预测过程，直接划分至编码深度为1的编码单元；

在编码深度为1的编码单元首先运用RBF-SVM进行划分决策，若决策函数判断为终止划分，则进行帧内预测过程，不再向下划分；若不确定是否划分，则运用Linear-SVM在再决策；若判断为提前划分，则跳过帧内预测过程，直接划分至编码深度为2的编码单元；

在编码深度为2的编码单元采用级联SVM进行划分决策，若不确定划分与否，则运用原始HM参考模型进行帧内编码；

在编码深度为3的编码单元执行原始帧内预测过程；

结束当前编码树单元的帧内编码过程，遍历下一个编码树单元，输出帧内预测编码单元划分结果。