[发明专利]一种面向HEVC的快速帧内预测模式判决方法和装置

说明书

技术领域

本发明涉及图像通信领域中的视频编码帧内预测技术领域，具体 为一种面向HEVC的快速帧内预测模式判决方法和装置。

背景技术

随着多媒体及高清视频技术的发展，JCT-VC推出了高清视频编 码标准H.265/HEVC，HEVC在编码性能方面的提升是以牺牲编码器的 技术复杂度为代价的。和上一代视频编码标准H.264/AVC相比较， HEVC的编码码率性能可以提升一倍，但同时编码复杂度是H.264/AVC 的2到3倍。视频会议、监控视频、视频聊天等等视频应用场景需 要实时编解码的，这样耗时的编码时间是不能接受的。同时，随着硬 件显示设备性能的提升，人们对视频质量要求的不断增加，超高清视 频(分辨率在2Kx4K或者4Kx8K以上的视频)的出现，使得视频 应用对编解码器的性能和效率提出了更为严峻的挑战。为了解决 HEVC编码端计算复杂度过高的问题，学术界以及工业界提出了许多 针对于HEVC编码端快速模式决策的算法来降低HEVC编码端的计 算复杂度，其中就包括更加细致准确的帧内预测技术，预测方向大大 增加，复杂度也随之增加。目前基于HEVC帧内预测模式技术已提出 许多以降低复杂度为目的的快速算法，但是目前已有算法大多是基于 块的纹理特征分析或相邻块的相关性等来提前决策预测方向以达到 降低编码复杂度的目的。但这类技术需要分析纹理特征，会增加一些 编码复杂度且会增加代码量，且这类技术主要是针对亮度预测过程 的，并没有考虑到色度预测过程，也没有考虑到实际应用中的并行化 设计，并不适合公司的项目中的实际开发应用，因此有必要进行改进。

发明内容

为了解决上述技术问题，本发明的目的是提供一种可以实现并行 化设计的面向HEVC的快速帧内预测模式判决方法和装置。

本发明所采用的技术方案是：一种面向HEVC的快速帧内预测模 式判决方法，所述方法，包括亮度预测过程和色度预测过程，

其中所述亮度预测过程包括

S11、对35个帧内候选预测模式进行粗略模式决策过程，保留多 个预测模式，

S12、将所述多个预测模式和最可能的预测模式合并，

S13、对所述合并模式进行精细搜索并设定提前决策过程以确定 最优亮度预测模式；

所述色度预测过程包括

S21、确定色度候选预测模式，

S22、对色度预测模式进行遍历搜索以确定最优色度预测模式；

根据所述的最优亮度和色度预测模式，确定当前CU块的帧内预 测率失真代价。

作为该技术方案的改进，其中所述亮度预测过程和色度预测过程 同时进行。

作为该技术方案的改进，在步骤S13中所述设定提前决策过程包 括以下步骤：

将所述35个帧内预测模式按方向分为5类，定义最可能的预测 模式中的相邻左边块最优亮度模式为M11，相邻上边块的最优亮度预 测模式为M22；

定义粗略决策模式的集合为M，M集合是按率失真代价从小到大 的有序组合，其中对应每个模式Mn的SATD值为SATDn；

定义最可能的预测模式和粗略决策模式合并的集合为M’，上一 层CU的最优亮度预测模式为Mup,上一层CU所得最优亮度预测模 式在RMD过程中的率失真代价SATD为SATDup，相邻左边CU的尺寸 为N1，相邻上边CU的尺寸为N2，当前CU的尺寸为N；

1)如果所述集合M和集合M’相等，即最可能的预测模式M11和 M22属于集合M，则执行步骤2)，否则执行步骤4)；

2)如果所述最可能的预测模式M11和M22相等，且等于上层CU 的最优预测模式Mup，则将M11选作为最优预测模式，跳过其他预测 模式的精细搜索，结束帧内亮度预测模式的搜索；否则，执行步骤3)；

3)在粗略决策模式的搜索过程中存在等于模式M11和M22的模 式，如果所述模式所对应的SATD值均小于上一层CU最优预测模式对 应的SATD值的1/4，则跳过集合M’中位于M11和M22模式之后的预 测模式的精细搜索；否则，执行步骤5)；

4)如果所述最可能的预测模式的M11和M22以及M’集合中的第 一个模式M1属于同类预测模式Ln，则只搜索M’中属于类Ln的预测 模式，跳过其他模式的精细搜索；否则，执行步骤5)；