[发明专利]一种高效视频编码率失真优化量化方法

说明书

本发明公开了一种高效视频编码率失真优化量化方法，该方法将待处理的TB分割为子块，将扫描顺序上连续的多个系数称为路径，将子块内部的路径部分称为子路径，将该率失真优化量化方法转换为TB内部的最佳路径搜索以及各子块内部的最佳路径搜索,最佳路径搜索均以找到度量最低的合法路径为目标，路径的度量为其拉格朗日代价，本发明在硬件上更容易执行，可以配合精确码率估计，并具有固定的延迟以及合理的吞吐率。

技术领域

本发明涉及数字视频处理领域，特别是涉及一种高效视频编码率失真优化量化方法。

背景技术

为了支持下一代的高清视频应用HEVC，联合视频编码组(Joint CollaborativeTeam on Video Coding,JVT-VC)提出了高效视频编码(High Efficiency Video Coding，HEVC)作为新一代的通用视频编码标准。借助可扩展的4叉树分解及各类先进的编码工具，HEVC可以适应多变的分辨率/终端/场景，并能够在一半的比特率下提供接近于先进视频编码(Advanced Video Coding，AVC)质量的视频。

在这些先进编码工具中，率失真优化方法(Rate-Distortion Optimization,RDO)是重要的一项。RDO引入编码过程自AVC起，但在HEVC中RDO的应用范围更为广泛，其贯穿HEVC的整个编码流程。

对于一个有损视频编码标准，码率与失真通常为负相关。更高的压缩率带来更低的码率但同时会增加失真，反之亦然。为了做出适当的折衷，考虑拉格朗日率失真(Rate-Distortion,RD)公式：

J＝D+λR

其中J为代价，D为失真，R为码率(率)，λ为拉格朗日系数。则RDO过程即调整编码过程使J最小化的过程。

理论上RDO在编码的各个牵涉选择的环节中都可以应用，在量化环节中，RDO与量化结合的产物即率失真优化量化(Rate-Distortion Optimized Quantization,RDOQ)。与普通的量化方法中独立的处理每一个变换系数不同，RDOQ在编码过程中通过RDO方法对变换系数的多个量化值进行选择，从而提升编码器在RD指标下编码性能的过程。相比普通的量化步骤，RDOQ可以提升0.5dB的编码性能之多。

HEVC的量化编码基本单元是变换块(Transform Block,TB)。亮度TB及相关的色度TB组成量化单元(Transform Unit，TU)。本质上，HEVC的RDOQ是在TB内所有系数构成的空间内以拉格朗日率失真公式为代价函数，寻找RD代价最小点的过程。HEVC的可伸缩特性导致TB的尺寸可以小到4×4块，大到32×32块。HEVC的TB最多可包含32×32＝1024个系数，考虑到变换系数空间的体积随系数数量增加呈指数方式增长，因此一般来说对整个系数空间进行测试是不可能的。为了解决这个问题，HEVC的参考模型HM中按照以下的步骤实现RDOQ以将运算量降低至可以软件实现的程度：

步骤一，块扫描:待处理的TB被分割为子块，每个子块大小为4x4个变换系数。各个子块按HEVC规定的扫描顺序依次进行处理。不同的预测模式下扫描顺序可能不同，但高频系数通常总是排在前面。这一步骤与所述普通的量化步骤相同。

1.1扫描：对于当前正在处理的子块B_i，按HEVC标准所指定的扫描顺序将其转化为16x1的一维数组(不同的预测模式下扫描顺序可能不同，但高频系数通常总是排在前面)。这一步骤与所述普通的量化步骤相同。

1.1.1量化及单系数的优化：依次重复对于每一个16×1的系数进行量化操作。

sgn(c)＝sgn(Y_i,j)

其中|c|为量化后系数的幅值，sgn(c)为量化后系数的符号。