[发明专利]一种基于决策树的帧间快速模式选择方法

说明书

本发明公开了一种基于决策树的帧间快速模式选择方法，通过获取相关性较好的特定位置的CU信息，首先进行决策树预测得出的最佳模式的预测编码，并实时获取当前CU编码后的一些信息，利用时域和空域信息的相关性，与周边CU的相关信息结合，对帧间编码模式的个数和顺序进行细致调整。该方案提前对帧间模式进行预测，并在帧间模式的预测过程中实时调整模式顺序，跳过不必要的模式预测，大幅度地缩短了帧间预测的时间，从而减少了编码时间；且该方法简单易行，有利于新一代视频编码标准的产业化推广。

技术领域

本发明涉及视频编解码领域，特别涉及一种基于决策树的帧间快速模式选择方法。

背景技术

在视频编码技术中，帧间预测是编码的核心技术之一。帧间预测是根据视频图像的时间相关性，利用已经编码的图像的相关信息预测待编码图像，然后对预测后的残差进行变换、量化、熵编码等一系列操作，而不是对原始像素值进行直接编码。经过帧间编码后，视频图像间的时间相关性大大消除，编码复杂度大大降低，同时编码效率显著提高。

2013年，ITU-T的VCEG(视频编码专家组)和ISO/IEC的MPEG(动态图像专家组)联合推出了HEVC(高效视频编码)视频压缩方案。自2016年始，VCEG和MPEG开始研究新一代视频编码器，并成立了一个专家小组——JVET(联合视频研究小组)，旨在进一步提升HEVC的压缩率。新一代视频编码器的最新编码软件JEM是在HM的框架上发展而来，沿用了HEVC的基本框架，但是在每个模块内部引入了许多新的技术和工具。这些工具的引入对压缩率和视频质量的提升起了一定作用，却加大了编码的复杂度，使之实际应用性能更差。

在新一代编码标准JEM中加入了新的帧间预测模式，帧间预测步骤如下：

步骤一：进行Affine Merge模式。对Affine Merge模式进行率失真代价的计算，并将Affine Merge模式设为最优模式。

步骤二：判断最优模式是否为2Nx2N Merge模式。对2Nx2N Merge模式进行率失真代价的计算，若其率失真代价较当前最优模式的率失真代价更小，则将2Nx2N Merge模式选为最优模式。

步骤三：判断最优模式是否为FRUC Merge模式。其中FRUC Merge模式又包括Bilateral和Template两个子模式。对FRUC Merge模式进行率失真代价的计算，若其率失真代价较当前最优模式的率失真代价更小，则将FRUC Merge模式选为最优模式，并用标志位表示最优模式属于哪一种子模式。

步骤四：判断最优模式是否为2Nx2N模式。对2Nx2N模式下的率失真代价进行计算，若其率失真代价较当前最优模式的率失真代价更小，则将2Nx2N模式选为最优模式。

步骤五：进行帧内预测模式的判断。

帧间模式的预测占据了编码总时间的一半以上，因此对帧间模式预测的改进是十分必要的。如果能通过相关信息调整帧间模式的顺序，并预测出最优可能选择的模式，避免对所有模式的遍历，跳过一些选择可能性很低的模式，将会大大减少编码时间，降低编码复杂度。

发明内容

本发明是针对JEM编码器中帧间模式较多，编码时间过长且编码效率过低的缺陷提出的一种基于决策树的帧间快速模式选择方法。

一种基于决策树的帧间快速模式选择方法，包括以下步骤：

步骤1：构建当前编码单元CU最佳预测模式分类器；

从国际标准测试序列中随机选取四个视频测试序列，在所选的四个测试序列的100帧的编码信息中，获取当前编码单元CU的左邻块CU_Left、上邻块CU_Above以及同位块CU_Col的相关信息；