[发明专利]一种快速的HEVC帧内预测编码方法

说明书

本发明公开了一种快速的HEVC帧内预测编码方法。在HEVC参考软件HM和开源编码器x265中，首先计算当前CU的帧内预测编码代价，然后分别计算四个子CU的帧内预测编码代价，最后子CU代价之和与当前CU进行PK选择CU的分割模式，子CU编码代价计算和当前CU的计算过程没有关系的，即子CU也需要重头计算35个预测模式的SatdCost和N个模式的编码代价，但事实上子CU与当前CU是被包含关系，当前CU在最优帧内预测模式选择过程的中间计算结果可以给子CU使用。本发明的有益效果是：利用大块的编码结果加速子块的帧内预测方向的选择过程，在显著降低复杂度的同时，压缩效率基本没有损失，可以应用到实际的HEVC编码器的优化中。

技术领域

本发明涉及视频编码相关技术领域，尤其是指一种快速的HEVC帧内预测编码方法。

背景技术

HEVC是目前最新一代的视频编码标准，在H264基础上压缩效率提升一倍。不同于H264采用宏块为单位的编码架构，HEVC提出了编码单元(Coding Unit，CU)和预测单元(Prediction Unit，PU)的新的编码框架。编码单元最大为64x64，最小为8x8，CU可以采用四叉树递归划分成四个子CU，CU内又可以分割成不同形状的预测单元(PU)，因此HEVC的编码块相比H264来说要灵活的多，块的种类更多，编码器可以根据实际场景选择压缩效率最高的编码单元与预测单元。

HEVC采用率失真优化(RDO)方法来选择最好的编码单元及预测单元。在HEVC的参考软件HM中，编码器首先计算当前CU的编码代价J_UnSplit，然后将CU递归划成四个子CU，分别计算四个子CU的最小编码代价，将所有子CU的最小编码代价相加可以得到当前CU采用划分方式的编码代价J_Split。如果J_UnSplit小于等于J_Split，则当前CU最后采用非划分方式编码，反之，当前CU采用划分方式编码。

HEVC的帧内预测包含了33个方向预测加上Planar和DC总共35个预测模式。33个预测方向相比H264的8个方向预测可以使帧内预测更加准确，特别是对于大块来说。此外HEVC采用了上方行、右上方行，左边列，左下方列和左上角像素来进行帧内预测。

在编码器中，SatdCost是对编码代价J的一种近似估计，采用一种简化方法来节省编码代价计算过程中的计算量。SatdCost计算公式为SatdCost＝Satd+lambda*bits，bits是编码的比特数，lambda是拉格朗日系数，与QP相关，Satd是将预测像素值和原始像素值之间的差值先进行哈达玛变换然后再进行绝对值求和。可以看到Satd是对编码失真(重建图像与原始图像之间的SSD)的估计，但是由于Satd并不需要进行真正的编码重建(包括变换，量化，反量化，反变换)，所以计算量相比计算编码失真要小的多。同时由于Satd对失真估计效果较好，因此Satd被广泛应用于编码器的各种快速算法当中。

在HEVC的参考软件HM和目前最好的开源HEVC编码器x265中，帧内预测需要从35种预测模式挑选一种最好的模式。HM和x265并没有计算每个预测模式的编码代价，因为这样计算量实在太大。它们采用了初选和精选两个步骤选择最优模式。在初选过程中，HEVC计算35个预测模式的SatdCost，从中选出N个SatdCost最小的预测模式作为精选的候选模式。在精选过程中，计算这N个预测模式的真实编码代价J，选出J最小的模式作为最优模式。这种方法有效的减少了计算量，同时编码质量损失很小，同时可以看到，Sad的计算在帧内预测模式的计算中占据了较大的计算量。

发明内容

本发明是为了克服现有技术中存在上述的不足，提供了一种降低复杂度且降低压缩效率损失的快速的HEVC帧内预测编码方法。

为了实现上述目的，本发明采用以下技术方案：

一种快速的HEVC帧内预测编码方法，具体包括如下步骤：