[发明专利]最优拉格朗日乘子基准定点标定方法

说明书

本发明涉及视频编码技术，其公开了一种最优拉格朗日乘子基准定点标定方法，通过相对简单的编码测试流程，获得不同编码情景下最优的基准拉格朗日乘子。本发明通过在拉格朗日乘子变化范围内按照划分的比例因子搜索拉格朗日乘子，进行编码测试并采用BD‑Rate评价测试结果，获取相对最优性能拉格朗日乘子，然后以此相对最优性能拉格朗日乘子的所处位置更新变化范围，再获得新的比例因子，如此迭代至满足阈值条件为止。本发明适用于各种编码情景下的最优的基准拉格朗日乘子的获取。

技术领域

本发明涉及视频编码技术，具体涉及一种最优拉格朗日乘子基准定点标定方法。

背景技术

视频编码中率失真优化技术的引入带来了性能的大幅提升，自H.264以后，已经被广泛地应用于各主流编码器中。作为最核心的编码优化技术，率失真优化的好坏直接决定了编码器的性能和效率。率失真优化公式写作为公式(1)：

min(D)s.t.R≤R_T (1)

其中，D为图像失真，常用差值平方和(SSE)与绝对误差和(SAD)表示。R为实际编码产生的比特率，R_T为编码的目标比特率。

2002年T.W引入了拉格朗日方法后，将公式(1)所示的有约束问题改造成为求解最小编码代价的无约束问题，如公式(2)所示：

min{J＝D+λ·R} (2)

其中，J为编码代价，λ为拉格朗日乘子。

具体到视频编码的率失真优化实施过程中，每一个视频的图像块都将对块划分结构、运动搜索、量化参数及残差变换做大量尝试。每一种组合都将产生对应的比特消耗以及图像失真信息，将这些模式组合的结果代入至公式(2)中，选取出代价J最小的模式组合作为最终的编码模式。由于拉格朗日乘子的选取决定了视频质量与产生比特流大小的平衡，因此，拉格朗日乘子的计算就显得十分重要。

一般性认为，视频编码的失真D与比特率R是单调函数关系。通常采用公式(3)来描述两者的关系：

D(R)＝C·e^-K·R (3)

其中，C和K为模型参数。

根据拉格朗日优化理论，λ的取值是由代价函数一阶微分置为零计算得到，如公式(4)所示：

在高比特假设下，视频编码的量化失真仅与量化步长q_step相关，具体如公式(5)所示：

其中，q_step即为量化步长，由量化参数(QP)唯一确定。

将公式(5)代入公式(4)，得到λ的计算公式，如公式(6)所示:

其中，c为常数，一般取值为0.85。

但随着编码器的发展，视频编码的失真D与比特率R的函数关系发生一定程度的变化，直接沿用公式(5)导出拉格朗日乘子必然不能获得最佳编码性能。因此目前主流的编码标准都会有针对性地研发率失真优化算法。HEVC/H.265的参考软件(HM)不直接使用公式(6)导出的拉格朗日乘子进行编码，而是会根据视频帧类型对拉格朗日乘子进行一定程度的偏移。我国具备自主知识产权的第二代信源编码标准AVS2对应的参考软件(RD)编码使用的拉格朗日乘子，在使用公式(6)计算得到基准拉格朗日乘子后，会针对视频帧类型及参考关系制定拉格朗日乘子修正策略。

这些率失真优化算法带来了较大的编码效率提升。但是，研究与开发率失真优化算法需要大量的前期理论积累以及算法设计经验，才能获得编码效率的稳定提升。

发明内容