[发明专利]用于HEVC的残余四叉树编码的快速变换方法

说明书

技术领域

本发明属于图像处理技术领域，特别涉及高效视频编码标准HEVC中残余四叉树编码RQT的快速变换方法，可用于减少在高效视频编码标准HEVC的编码过程中的计算复杂度以及实现硬件编码器的实时编码。

背景技术

2010年4月，两大国际视频编码标准组织VCEG和MPEG成立视频压缩联合小组JCT-VC（Joint Collaborative Team on Video Coding），共同研发高效视频编码标准HEVC，HEVC也可称为H.265。高效视频编码标准HEVC致力于大幅度提高编码效率，尤其是针对高分辨率视频序列，其目标是在相同视频质量，即相同峰值信噪比PSNR下，将高效视频编码标准HEVC的编码码率降为上一代视频编码标准H.264/AVC的50%。

目前，高效视频编码标准HEVC依然沿用H.26x标准，即H.261及其以后的标准，这些标准都采用的混合编码框架，如图1所示出。高效视频编码标准HEVC的编码器架构与H.264/AVC标准所使用的编码器架构大致相同。帧间和帧内预测编码分别消除时间域和空间域的相关性；变换编码是对残差进行变换编码以进一步消除空间相关性；熵编码用于消除统计上的冗余度。高效视频编码标准HEVC将在混合编码框架内，着力研究新的编码工具或技术以提高视频压缩效率。在高效视频编码标准HEVC标准制定过程中，许多编码的新特性被提出并进行验证，最后添加到高效视频编码标准HEVC中。各新特征的具体文献可以从http://wftp3.itu.int获得。高效视频编码标准HEVC于2013年1月被正式制定为国际标准。

高效视频编码标准HEVC中的编码块采用迭代四叉树方式进行编码。编码块最大可达64x64像素，这是针对高清视频压缩编码引入的新特征。变换块大小将突破H.264标准中的8x8像素，最大可达32x32像素。对于帧内预测，帧内预测模式由H.264标准中的10种预测模式拓展到35种预测模式，这使得帧内预测更加精确，可以更加高效地消除空间相关性。对于帧间预测，在插值中采用了更多插头的滤波器，以及1/4像素精度，有效地提高了帧间预测的精度。变换编码中采用了残余四叉树编码RQT，使得高效视频编码标准HEVC中的变换编码可依据视频局部特性灵活地选择变换块大小，从而更加高效地消除空间相关性。在熵编码方面，剔除了基于上下文的自适应变长编码CAVLC，只采用适应性更强的基于上下文的自适应二值算术编码CABAC。

使用高效视频编码标准HEVC标准的变换编码可更加高效地消除空间相关性，而且选择的变换块越小，说明变换深度越大，变换深度可取0～3。但是，由于在进行残余四叉树编码RQT时需要重复使用率失真优化RDO来确定最佳变换深度，当视频场景较为复杂时需要进行大量的率失真优化RDO运算，这造成高效视频编码标准HEVC的编码器的计算负荷过重，严重影响了高效视频编码标准HEVC的编码器的实时编码性能。

为了降低高效视频编码标准HEVC的编码器进行残余四叉树编码RQT时重复使用率失真优化RDO带来的高运算量，许多针对变换编码的残余四叉树编码RQT的快速算法被提出。

Tan等人(Yih Han Tan,Chuohao Yeo,Hui Li Tan and Zhengguo Li.“On Residual Quad-tree Coding in HEVC”,Multimedia Signal Processing(MMSP).pp.1-4,Oct.2011.)提出了帧间和帧内编码方法，这两种编码方法可以减少变换编码中残余四叉树编码RQT的复杂度，操作简单，但自适应能力差，特别是对于场景比较复杂的视频编码效果较差。

Teng等人(Su-Wei Teng,Hsueh-Ming Hang and Yi-Fu Chen.“Fast Mode Decision Algorithm for Residual Quadtree Coding in HEVC”,Visual Communications and Image Processing(VCIP).pp.1-4,Nov.2011.)用合并和划分的变换过程代替传统的深度优先的变换过程，提高了变换编码中残余四叉树编码RQT中率失真优化的利用效率。该方法虽然在一定程度上减少了高效视频编码标准HEVC的编码器的计算复杂度，但不能高效地消除编码块之间的空间相关性，因此使编码性能下降。