[发明专利]用于编码器的图像像素块编码模式的快速选择方法

说明书

技术领域

本发明涉及一种数字视频编解码技术领域，特别涉及一种用于编码器的图像像素块编码模式的快速选择方法。

背景技术

新一代视频压缩标准H.264较之传统标准具有更优的编码性能，研究表明，在相同的图像质量下，H.264能够比MPEG4节约多达50％的码率。然而，H.264高效的编码很大程度上依靠于极为复杂的编码算法，有统计表明，H.264编码的计算复杂度是H.263及MPEG4的3-10倍。

在H.264的复杂编码算法中，包括多模式宏块编码、多参考帧编码、高精度运动补偿等。其中，多模式宏块编码算法允许编码器对P帧宏块(即像素块)编码时采用多达13种的帧内模式(4种Intra16×16模式和9种Intra4×4)和多达7种的帧间模式(Inter16×16、Inter 16×8、Inter 8×16、Inter 8×8、Inter 8×4、Inter 4×8和Inter 4×4)，以及一种跳过模式(skip模式)编码。为获得高性能压缩，H.264参考编码器采用了基于率失真优化的宏块编码模式选择算法，对所有模式进行穷举遍历，计算出宏块按每种模式编码的率失真代价，然后选择代价函数最小的模式进行编码，其计算所采用的代价函数为：min{J(s，c，MODE/QP，λ_MODE)}(1)，其中，J(s，c，MODE/QP，λ_MODE)＝SSD(s，c，MODE/QP)+λ_MODE.R(s，c，MODE/QP)，QP为宏块编码量化参数，λ_MODE拉格朗日算子，MODE为下列模式的一种：

MODE∈{INTRA4*4，INTRA16*16，SKIP，

16*16，16*8，8*16，8*8，8*4，4*8，4*4}    (2)

R(s，c，MODE/QP)为由MODE和QP确定所需比特，SSD为当前宏块与参考宏块对应像素值的平方差和。此种基于率失真优化的穷举遍历宏块编码模式选择算法使得宏块编码模式选择成为H.264编码其中最复杂、最耗时的部分，严重影响了编码器的实时编码应用。

为解决上述问题，目前为止人们提出了许多编码模式快速选择算法。针对帧内编码模式的选择可参见参考文献“F.Pan，X.Lin，R.Susanto，K.P.Lim，Z.G.Li，G.N.Feng，D.J.Wu andS.Wu Fast Mode Decision for Intra Prediction[C]ITU-T，Doc.JVT-G013”，在所述参考文献中提出了一种通过分析编码宏块的图像纹理信息，确定图像边缘方向，快速选择帧内编码模式的方法；而在文献“田树民，王晓慧AVS，H.264视频帧间编码基于边缘方向的帧内预测方法：中国200510044814.6[P]”公布了一种基于边缘方向的帧内模式快速选择方法；在文献“B.Meng，O.C.Au，C.W.Wong，and H.K.Lam Efficient Intra-Prediction ModeSelection for 4×4 Blocks in H.264[C]in Proc.IEEE ICME 2003，Baltimore，MarylandJuly 2003”提出了一种通过对宏块数据进行下采样达到减少代价函数计算量的目的的方法；其他还包括一些利用统计特性，优先选择概率较大模式的方法。而针对帧间模式选择，文献“K.P.Lim，S.Wu，D.J.Wu，S.Rahardja，X.Lin，F.Pan and Z.G.Li Fast INTER ModeSelection[C]ITU-T，Doc.#JVT-I020”提出了一种通过分析检测宏块图像是否具有平滑均匀特性已决定是否提前结束模式穷举遍历的方法，减少不必要的穷尽试探计算率失真代价；文献“戴琼海，施一平 帧间预测编码的模式快速选择方法：中国200710063819.2[P]”和“李华，张淑芳一种快速帧间预测模式选择方法：中国200610013140.8[P]”分别公布了一种可以减少运算复杂度的帧间宏块编码模式快速选择方法。