[发明专利]基于编码树单元失真优化的视频编码码率控制方法

说明书

本发明提供了一种基于编码树单元率失真优化的视频编码码率控制方法。首先，使用归一化框架建立感知码率失真模型，该框架很好的表征了感知视觉质量和编码码率之间的关系。随后，将建立的感知失真模型应用于优化框架中，将编码树单元码率控制问题转化为全局最优问题，并利用凸优化算法进行求解，以获得最优编码树单元的编码最佳码率分配。实验结果表明，所提出的算法其能够有效提高编码性能和编码效率。

技术领域

本发明涉及视频编码中的码率控制领域，特别涉及一种编码树单元的码率控制方法。

背景技术

最近，关于高效视频编码(HEVC)中的码率控制(RC)优化方法被陆续提出来。HEVC有三种RC算法主要有三类：二次模型[1]，ρ-域模型[2]和R-λ模型。Li等人在文献[3]中首先基于编码码率和拉格朗日乘数之间的关系提出了λ域RC优化方法。由于该方法的低复杂度和高效率，在HEVC参考软件采用了该模型作为默认的RC模型。Lee等人在文献[4]中利用拉普拉斯概率分布函数(PDF)来对残差进行建模，提出了对应的R-Q模型，以建立量化参数和编码码率之间的关系，编码码率包括纹理和非纹理位。文献[5]提出了一种自适应码率分配算法来改进帧内R-λ模型RC算法。在文献[6]中，使用绝对变换差值之和(SATD)来衡量关键帧的复杂度，进一步改善了编码性能。Wang等人在[7]中提出了一种基于关键帧的R-λ模型，并使用梯度来表征帧的复杂度。

图15显示了HEVC中的RC的基本流程。编码树单元(CTU)的RC方法在调节码率和提高编码性能方面也发挥着重要作用。由于CTU级的RC具有可以极大地影响码率失真(R-D)的性能，近期也有一些关于HEVC的RC方法陆续提出。Li等人在文献[8]中提出了一种基于CTU级RC优化策略。Wang等人在文献[9]中提出了一种基于拉格朗日乘数法的RC方案，极大地提高了编码效率。在文献[10]中，Zhou等人针对HEVC提出了一种基于内容复杂度相关的CTU级的RC方法。然而，这些方法在编码优化时都是基于均方误差(MSE)，没有考虑感知质量，因此编码效率并不高。由于视频流的最终接收器是人类视觉系统[11]，因此迫切需要充分考虑感知特性的CTU级的RC方案。

下列参考文献的公开内容通过引用整体并入本文:

[1]H.Choi,J.Nam,J.Yoo,D.Sim,and I.Bajic,“Rate control based onunified RQ model for HEVC(HEVC中一种基于RQ模型的码率控制方案)”,JointCollaborative Team on Video Coding(JCT-VC)of ITU-T SG16WP3and ISO/IECJTC1/SC29/WG 118届会议，第1-10页，2012年。

[2]X.Liang,Q.Wang,Y.Zhou,B.Luo,and A.Men,“A novel R-Q model basedrate control scheme in HEVC(HEVC中一种基于R-Q模型的码率控制方案)”,Vis.Commun.Image Process.会议,第1-6页，2013年古晉(Kuching)。

[3]B.Li,H.Li,L.Li,and J.Zhang,“Rate control by R-λmodel for HEVC(HEVC中基于R-λ模型码率控制方案)”,JCTVC-K0103第1-5页，ITU-T SG16Contribution会议，2013年上海。

[4]B.Lee,M.Kim,and T.Q.Nguyen,“A frame-level rate control schemebased on texture and nontexture rate models for high efficiency video coding(HEVC中一种基于纹理和非纹理码率模型的帧级码率控制方案)”,IEEE Trans.CircuitsSyst.Video Technol.,vol.24,no.3,第465-479页,2014年3月。