[发明专利]一种视频编码率失真优化的调整方法

说明书

技术领域

本发明属于视频编码技术领域，尤其涉及一种视频编码率失真优化的调整方法。

背景技术

率失真优化技术是视频编码中广泛使用的技术。率失真优化的目标是在给定码率R_T下对失真D进行最小化，即min{D}s.t.R≤R_T，其中，R表示一个当前编码单元的码率，D表示当前编码单元的失真。

当前的视频编码率失真优化是在假设编码单元间独立的情况下进行最大化编码单元。例如，在现有编码标准H.264/AVC和HEVC使用的编码方法：对min{D}s.t.R≤R_T使用拉格朗日乘子法转化为无限制的形式min{J},where J＝D+λR，其中，J是拉格朗日代价，λ是拉格朗日因子。由于率失真曲线是凸函数，因此获取最小代价的条件为则在高分辨率假设下，失真模型可以表示为码率模型可以表示为其中，q为量化步长，δ²为信源方差。因此，其中，c是常量。

现有的混合视频编码方法如图1所示，包括预测、变换、量化和熵编码。其中，预测方法包括帧内预测和帧间预测，当前编码单元的预测信息中的模式、运动矢量和重建数据用于协助预测下面的编码单元。

但是，在现有的混合编码框架下，空域和时域预测技术的大量使用导致编码单元之间存在强相关性，即，当前编码单元的编码性能会影响到后面编码单元的编码。因此，不考虑编码单元之间的相关性的码率失真优化技术会降低整个序列的整体编码效果。

发明内容

本发明为了克服现有技术的缺陷，提出了一种视频编码率失真优化的调整方法。该方法利用运动搜索技术在当前编码单元i所在的帧之后的帧中搜索匹配编码单元，计算当前编码单元i的编码失真对其后面帧的编码代价的影响。

一种视频编码率失真优化的调整方法，具体如下：

S1、在帧间预测编码中，当前编码单元i的代价表示为J_i＝D_i+λR_i+ΔJ_i+1(D_i)，所述R_i为当前编码单元i的码率，所述D_i为当前编码单元i的失真，所述ΔJ_i+1(D_i)为帧间预测时由当前编码单元i的编码失真引入的编码代价变化量，所述引入的编码代价变化量为当前编码单元i所在帧后面的帧中受到影响的编码单元的编码代价变化量，所述λ为拉格朗日因子；

S2、在高码率条件下获取受到影响的编码单元i+1的码率变化ΔR_i+1，具体如下：

S21、利用运动搜索技术获取当前编码单元在当前编码单元所在帧的下一帧中的匹配编码单元，计算运动补偿误差其中，F_i为原始当前编码单元，F_i+1为F_i后受影响的编码单元i+1，表示当前编码单元i的重建数据，为基于原始帧的运动补偿误差，α为经验值；

S22、根据码率模型变化得到其中，表示当α＝1时，

S23、对S22所述ΔR_i+1(D_i)进行泰勒展开可得

S3、得到由当前编码单元i的编码失真引起的后面编码单元i+1的编码代价变化量为其中，受到影响的编码单元的失真只与其量化参数有关，与之前的编码单元的编码失真无关，因此失真变化ΔD_i+1＝0；

S4、根据S1所述J_i和S3所述ΔJ_i+1(D_i)，当前编码单元i的编码代价更新为

S5、根据获取最小代价的条件可以得到其中为局部率失真优化中用到的拉格朗日因子；

S6、通过对整个序列的N个编码单元求和，可得

S7、根据S4所述J_i和S6所述λ，对于任一编码单元g，编码代价J_g计算如下：其中，

进一步地，S1所述λ_HM为原始HEVC的编码器HM中使用的拉格朗日因子，q为系统设定量化步长。

进一步地，S21所述运动搜索技术为前向整像素搜索。

进一步地，S22所述的计算方式为计算当前编码单元的基于原始帧的运动补偿误差的平均值，其中，为编码过程中对当前帧或者多帧中编码单元的的倒数的平均值。

本发明的有益效果是：