[发明专利]用于HEVC的基于方向矢量的帧内预测模式决策

说明书

联合研究

本申请由北方工业大学与北京交通大学信息所联合研究，并得到以下基金资助：国家自然科学基金(No.61103113)，江苏省自然科学基金(BK2011455)，国家973计划(2012CB316400)，中央高校基础研究基金(No.2011JBM214)。

技术领域

本发明涉及图像处理领域，更具体而言，涉及用于高效视频编码(HEVC)中帧内预测模式选择的基于方向矢量的快速帧内预测模式决策方法。

背景技术

2010年4月，两大国际视频编码标准组织VCEG和MPEG成立视频压缩联合小组JCT-VC(Joint collaborative Team on Video Coding)，一同开发HEVC标准，其也称为H.265。HEVC标准主要目标是与上一代标准H.264/AVC实现大幅度的编码效率的提高，尤其是针对高分辨率视频序列。其目标是在相同视频质量(PSNR)下码率降为H.264标准的50％。

就目前阶段，HEVC依然沿用H.264就开始采用的混合编码框架。帧间和帧内预测编码：消除时间域和空间域的相关性。变换编码：对残差进行变换编码以消除空间相关性。熵编码：消除统计上的冗余度。HEVC将在混合编码框架内，着力研究新的编码工具或技术，提高视频压缩效率。

目前，JCT-VC组织的讨论中已经提出的许多编码的新特性，有可能会加入HEVC标准中，各次讨论的具体文献可以从http://wftp3.itu.int获得。

编码块的大小将最大可达64x 64，这主要是为了高清视频压缩编码的应用。DCT变换编码将突破8x8，最大能够达到32x 32。对于帧内预测，预测的方向更佳细化，多达35种帧内预测(intra predication)模式，其中对于大小为4x4，8x8，16x16，32x32和64x64的预测块(predication unit)，分别有17，35，35，35和5种预测模式可用，其中，图2示出了35种帧内预测模式的情况，这将使帧内预测更佳精确，更高效地减少冗余。帧间预测在插值时采用了更多抽头的滤波器，以及1/4像素精度，来提高帧间预测的精度。在熵编码方面，使用了适应性更强的CABAC以及低复杂度的LCEC。

在帧内预测方面，由于使用了多达35种帧内预测模式，因此，在进行帧内编码时，如果直接针对35种帧内预测模式使用率失真优化(Rate-Distortion optimization，RDO)来判断最佳预测模式，则编码器将不能承受将所有预测方向进行RDO的运算量。为了降低编码器进行RDO运算时的运算量，HM4.0(HEVC test model 4.0)采用了Hadamard变换的方法，通过一种粗略模式决策(Rough Mode Decision，RMD)选出若干个较佳的候选模式。随后，在针对由这若干个较佳候选模式进行RDO运算来获得最佳模式。

在JCT-VC已经采纳的JCTVC-C207提案中将残差信号哈达玛变换系数绝对和(minimum absolute sum of Hadamard Transformed coefficients of residual signal，HSAD)与模式比特数计算过程加入粗略模式决策(RMD)算法。提案JCTVC-D283中，将联合方向帧内预测算法简化，并加入了提取最高概率模式(most probable mode，MPM)算法，即在RMD之后应用MPM算法，从而保证在进行RDO运算的候选模式集合中始终包含MPM。提案JCTVC-C218简化CU分成PU的冗余过程，这些简化算法降低了帧内预测的复杂度，但是这些方案都是最基本的解决方案而没有考虑块的内容本身。

本申请中主要参考以下技术文献来实现，这些文献皆是JCT-VC，并且可直接从http://wftp3.itu.int获得：

[1]J.H.Min，“Unification of the directional intra prediction methods in TMuC，”JCTVC-B100，July，2010.

[2]K.McCann et.al.，“Samsung’s response to the call for proposals on video compression technology，”JCTVC-A124，April，2010.