[发明专利]一种视频编码的快速模式选择方法

说明书

技术领域

本发明涉及一种视频编码的快速模式选择方法，属于网络视频处理技术领域。

背景技术

网络视频是互联网最主要的应用之一，高清视频将是广电领域的必然走向，移动视频目前的发展态势也呈现出井喷之势。可以预见，视频应用在今后若干年都将是数字多媒体领域的最大热点。

由于网络带宽、延时等因素的限制，视频应用中面临的首要难点就是视频编解码问题。视频编解码系统是视频应用领域的核心，它决定着媒体服务的质量，它直接影响网络带宽需求、用户体验质量、解码设备需求、直播延迟等关键问题。因此，高效的视频编解码系统一直是广电、互联网视频、视频协作厂商等竞相追逐的重点对象。H.265编码标准是国际标准化组织MPEG和ITU-T VCEG继H.264之后联合制定的新一代视频编码标准。

H.265沿用了前代视频编码标准所惯用的基于块的预测变换混合编码框架，并且在预测、变换、熵编码、环路滤波等核心模块进行了一系列重要的创新和改进，如更加灵活的四叉树编码结构，更加复杂和精确的帧内和帧间预测方法、更加先进的环路滤波技术，使得压缩性能相比H.264提升了一倍。

H.265视频编码标准有效地提高了视频压缩性能，但是，同时也为视频编码过程带来了更多的计算负担。新的编码工具集为编码过程提供了更多的选择，要达到最优编码性能，需要在这个工具集中寻找最优组合，这个搜索过程的复杂度是相当高的。最显著地，H.265相比H.264编码和预测块的划分形式更加灵活，它首先把编码的基本单位抽象为编码单元CU、预测单元PU和变换单元TU三个层次，对于帧间编码，从64x64到4x4，每一层CU都可以支持2Nx2N，NxN，2NxN，Nx2N四种对称PU划分方式和2Nx0.5U，2Nx0.5D，0.5Lx2N，0.5Rx2N四种非对称PU划分方式，另外还可以编码为Intra、SKIP、Merge等PU模式。理论上，编码器要获得最优编码性能需要通过递归遍历的方式在每一层CU都检查所有可能的PU模式，这个过程的运算复杂度是极高的。根据测试结果，HM参考编码器(H.265标准的参考软件)的编码速度是视频序列时间长度的数百倍到数千倍之间。但是，在实时视频通信应用领域，例如视频会议、视频直播、视频电话等场合，需要对视频进行实时编码，对所有编码模式和工具做遍历择优的做法是极不现实的，如何在不降低视频编码效率的前提下大幅降低运算复杂度，是当前急需解决的问题。

发明内容

本发明所解决的技术问题是基于H.265编码标准，获得最优编码性能需要通过递归遍历的方式在每一层CU单元都检查所有可能的PU模式，运算复杂度高，降低视频编码效率的问题。本发明的视频编码的快速模式选择方法，在不损失编码效率的前提下，大幅度提高编码速度，具有良好的应用前景。

为了解决上述的问题，本发明所采用的技术方案如下：

一种视频编码的快速模式选择方法，其特征在于：运行在H.265编码标准的视频编码单元，包括以下步骤，

步骤(1)，对当前层编码单元的部分编码模式进行决策；

步骤(2)，递归向下对当当前层编码单元的四个子编码单元进行模式决策；

步骤(3)，判断当前层编码单元是否需要对其余编码模式进行尝试；

步骤(4)若不需要，则结束当前层编码单元的模式决策；若需要，则对当前层编码单元的编码模式进行决策，重复步骤(2)-步骤(3)。

前述的一种视频编码的快速模式选择方法，其特征在于：步骤(3)，判断当前层编码单元是否需要对其余编码模式进行尝试为以下两个条件满足一个或同时满足，则结束当前层编码单元的模式决策，

(A)当前层编码单元至少有一个子编码单元选择更细划分的编码模式；

(B)当前层编码单元的子编码单元的率失真代价方差大。

前述的一种视频编码的快速模式选择方法，其特征在于：(A)当前层编码单元至少有一个子编码单元选择更细划分的编码模式为当前层编码单元至少有一个子编码单元选择进一步划分成多个子编码单元或者当前层编码单元至少有一个子编码单元选择了划分成多个预测单元的编码模式。

前述的一种视频编码的快速模式选择方法，其特征在于：(B)当前层编码单元的子编码单元的率失真代价方差大的方法为，

(B1)找出各子编码单元中最大的率失真代价MaxCost；

(B2)找出各子编码单元中最小的率失真代价MinCost；