[发明专利]视频标准中基于自回归模型的帧内预测快速模式选择方法

说明书

技术领域

本发明属于数字信号处理技术领域，涉及图像视频压缩编码中的预测模式选择实现方法，可用于H.265/HEVC视频标准中的帧内预测编码过程。

背景技术

在2004年，也就是在H.264/MPEG-4AVC标准制定后的一年，国际电信联盟远程通信标准化组织ITU-T的视频专家小组VCEG便开始研究能够成为下一代视频压缩标准的技术。为此目的VCEG和国际标准化组织ISO/IEC的运动专家组MPEG联合成立的视频编码联合工作组(Joint Collaborative Team on Video Coding,JCT-VC)共同开发了HEVC标准。近年来，JCT-VC一直致力于H.265/HEVC的制定，于2012年7月发布第一版公开版草案。在2013年4月13日，第一版的H.265/HEVC视频压缩标准被接受为ITU-T的正式标准。

H.265/HEVC的目标是，在编码性能上相对于H.264/AVC的高档次，编码效率提高一倍，即在保证相同视频图像质量的前提下，降低50％的比特率。

H.265/HEVC视频压缩标准，首先将图像划分成64×64大小的最大编码单元LCU，然后对LCU进行预测、变换、量化和熵编码。其中预测包含帧内预测和帧间预测，熵编码方式为基于上下文的自适应二进制算术编码CABAC。为了提高压缩率，H.265/HEVC在帧内预测上采用了更灵活的编码单元；根据四叉树结构确定最优划分；帧内预测的模式从9种增加为35种，这些灵活的编码方法使得编码时间和计算复杂度急剧增加，极大地限制了H.265/HEVC的实时实现。因此，很有必要需要在保证性能的前提下，降低时间和计算复杂度，提高运行速度。

视频压缩是通过去除空间冗余以及时间冗余实现的。帧内预测主要用于消除空间冗余，而帧间预测主要用于去除时间冗余。H.265/HEVC帧内预测采用四叉树结构和递归算法进行编码单元CU的划分，然后把CU划分成4个同样大小的预测单元PU进行预测。在亮度分量上，首先进行粗略模式选择过程，对当前PU进行33种角度预测、平面Planar预测、直流DC预测，然后依据哈德玛代价函数SATD代价函数选取代价最小的前n种候选模式，其中n的值由PU的大小决定。对于4×4和8×8的PU块，n为8；对于16×16、32×32、64×64的PU块，n为3。然后对n种候选模式和最有可能模式MPM进行最优模式选择过程，依据RDO代价函数选取代价最小的模式作为最优模式。

在整个预测过程中，用到两种代价函数：一种是SATD代价函数，一种是率失真优化RDO代价函数。该SATD代价函数为：SatdCost＝SATD+λ_pre×B_pre，其中，SATD为原图像与当前模式预测图像的预测残差的哈德玛变换绝对和，λ_pre为拉格朗日系数，B_pre为当前预测模式编码的码流长度；该RDO代价函数为：RdCost＝SSD+λ_mod×B_mod，其中，SSD为原图像与当前模式重建图像的差值平方和，λ_mod为拉格朗日系数，B_mod为当前预测模式编码的码流长度。

可以看出，RDO代价函数需要计算原图像与当前模式重建图像的差值平方和SSD，因为SSD值的计算要用到重建图像，需要对CU进行变换、量化、反量化、反变换以及重建，虽然精度很高，但是计算很复杂。SATD代价函数只需要预测和变换，不需要对块重建，计算复杂度低，但是模式选择的精度也较低。

目前为止，已提出的快速模式选择方法主要有以下几种：

北方工业大学提出的专利申请“用于HEVC的自适应快速帧内预测模式决策”，专利申请号为201210138816.1，公开了一种应用于高效视频编码HEVC的自适应帧内预测模式决策方法。该方法在使用了HEVC中的粗略模式选择过程RMD、最有可能模式过程MPM和最优模式选择过程RDO的同时，在实施RMD之后加入了基于纹理的附加模式选择过程，针对4×4和8×8、16×16和32×32尺寸的预测块，将候选模式数量减小至2～5个，从而明显地减少了参与RDO模式选择的候选模式的数量。该方法针对RMD过程进行快速模式选择，虽然运行时间缩短，但候选模式的数量减少为2～5个会对编码质量有所损伤，且对于纹理方向不突出的图像，会引起判断失误降低编码性能。