[发明专利]一种率失真优化方法

说明书

技术领域

本发明涉及图像/视频编解码领域，更具体地说，涉及一种率失真优化方法。

背景技术

以国际标准H264为参考，对基本编码单元进行编码时，可以选择不同的编码模式。编码模式的选择包括对帧内预测方式或帧间预测方式的选择，也可以包括对基本编码单元的分割方式（例INTRA-4x4、INTRA-8x8、INTRA-16x16、SKIP、DIRECT、INTER-16x16、INTER-16x8、INTER-8x16、INTER-8x8、对INTER-8x8可以进一步分为INTER-8x8、INTER-8x4、INTER-4x8、INTER-4x4）的选择，还可以包括对预测块位置（例Intra_4x4_Vertical、Intra_4x4_Horizontal、Intra_4x4_Diagonal_Down_Left、Intra_4x4_Diagonal_Down_Right、Intra_4x4_Vertical_Right、Intra_4x4_Horizontal_Down、Intra_4x4_Vertical_Left、Intra_4x4_Horizontal_Up、Intra_4x4_DC）的选择。编码模式的确定是通过率失真优化实现的，其中率失真优化是对以下代价函数J求最小值的过程，

J(s,c,mode|QP)=D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)    （1）

其中D是失真值，R是码率值，s和c分别表示原图和通过编解码处理的再建图像相应的基本编码单元，mode表示基本编码单元的可选择编码模式，QP为量化参数，λ_mode是用来折衷失真值和码率值的拉格朗日参数。

率失真优化是在量化参数QP已定的条件下，确定能使上述代价函数J最小的mode。在H264标准中，λ_mode是由量化参数QP决定的，即有

λ_mode=0.85×2^(QP-12)/3    （2）

上述率失真优化是在指定λ_mode的情况下确定最优的编码模式mode。但是，上述λ_mode的确定方式只是用MSE（mean squared error，均方误差）测定失真时的一个统计近似结果。而MSE并不是总能正确地表达失真，反而会经常出现与人眼的失真感觉不一致的情况。比如针对一些MSE值相近的失真图像，人眼的失真感觉可能会有很大不同。所以用MSE测定失真的方法并不够完善，因此会导致上述率失真优化的结果也并非最佳。

故，有必要提供一种率失真优化方法，以解决现有技术所存在的问题。

发明内容

本发明要解决的技术问题在于，针对现有技术中的率失真优化方法不能正确的表达失真，造成率失真优化的结果不佳的缺陷，提供一种通过综合两种率失真优化指标，使得率失真优化结果最佳的率失真优化方法。

本发明解决其技术问题所采用的技术方案是：本发明涉及一种率失真优化方法，其包括步骤：

A、采用第一计算指标进行率失真计算，得到第一组失真/码率值；

B、采用第二计算指标进行率失真计算，得到第二组失真/码率值；

C、采用第一率失真优化方式，获取所述第一组失真/码率值中对应最小编码代价的失真/码率值；

D、根据所述最小编码代价的失真/码率值，获得多个候补码率值及相应的编码代价；

E、采用第二率失真优化方式，获取与所述候补码率值对应的第二组失真/码率值的补偿代价；

F、根据所述编码代价以及所述补偿代价，确定综合代价的最小值，进而获取最佳编码模式。

在本发明所述的率失真优化方法中，所述第一计算指标为对应于均方误差的差值平方和指标，具体为：