[发明专利]H264自适应帧内模式选择码率估计的率失真优化方法及其装置

说明书

技术领域

本发明涉及图像领域，特别的，涉及一种对H.264自适应帧内模式选择的码率估计的率失真优化（RDO）方法以及系统。

背景技术

H.264是由ITU-T视频编码专家组（VCEG）和ISO/IEC动态图像专家组（MPEG）联合组成的联合视频组（JVT，Joint Video Team）提出的高度压缩数字视频编解码器标准。H.264是ITU-T以H.26x系列为名称命名的标准之一。该标准在视频压缩方面有显著的效果，与之前的其它压缩方法相比，它在同等视频质量的情况下能够节省50%比特率。它的压缩性能的改进主要在可变尺寸的块1/4像素运动补偿，多参考帧运动补偿，先进的帧内预测模式，去方块滤波效应以及自适应熵编码等特性。为了提高压缩性能和码率控制，采用了率失真优化（RDO）方法。但是，在RDO方法中为了实现码率预测，需要大量的运算。

具体的来说，H.264视频编码中，为了在RDO下为了得到预测码率，现有的方法是通过真实的熵编码来预测码率，这个过程计算量较大，需要花费较多的时间。在4x4帧内模式选择时需要计算9中帧内预测模式，预测花费时间较多。

因此，如何能够提高编码效率，降低计算的时间，提高ROD效率成为H.264编码运算中亟需解决的技术问题。

发明内容

本发明的目的在于提出一种在H.264视频编码中自适应帧内模式选择码率估计的率失真优化方法（RDO）及其系统。

H.264视频编码中自适应帧内模式选择码率估计的率失真优化方法，包括： 1.一种H.264中自适应帧内模式选择码率估计的率失真优化方法，包括如下步骤：

步骤1： 4x4块帧内预测，利用4×4 亮度块的上方和左方的已编码和重构像素，以及 9 种预测模型来实现帧内预测；

步骤2： 4x4块残差值获取，利用对象点的实际像素减去步骤1得到的预测的像素值，得到4x4块残差值矩阵X；

步骤3：DCT变换，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；

步骤4：评估R值，利用在Y矩阵中经过zig-zag 扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；

步骤5：RDO优化，定义如下代价函数，                                                ，其中，D为原始图像像素值与重建图像像素值之差的绝对值之和， 为与量化参数QP相关的值，R为评估得到的R值，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。

其中所述DCT变化步骤包括如下步骤：

其中，

表示矩阵中每个元素乘以矩阵 E 中对应位置上的系数。

其中所述评估R值步骤具体为：

Total_coeff为在Y矩阵中经过zig-zag 扫描非零系数的数目，Trailing_ones为在Y矩阵中经过zig-zag 扫描拖尾系数的数目，Total_zero为在Y矩阵中经过zig-zag 扫描最后一个非零系数前零的数目，Total_level为在Y矩阵中经过zig-zag 扫描所有非零系数的幅值绝对值的和，mv为运动矢量。

其中所述RDO优化步骤中，

。

本发明还公开了一种H.264中自适应帧内模式选择码率估计的率失真优化装置，包括如下单元：

4x4块帧内预测单元，利用4×4 亮度块的上方和左方的已编码和重构像素，以及 9 种预测模型来实现帧内预测；

4x4块残差值获取单元，利用对象点的实际像素减去所述4x4块帧内预测单元得到的预测的像素值，得到4x4块残差值矩阵X；

DCT变换单元，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；

评估R值单元，利用在Y矩阵中经过zig-zag 扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；

RDO优化单元，定义如下代价函数，

，其中，D为原始图像像素值与重建图像像素值之差的绝对值之和， 为与量化参数QP相关的值，R为评估得到的R值，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。

其中所述DCT变化单元包括：

其中，

表示矩阵中每个元素乘以矩阵 E 中对应位置上的系数。

其中所述评估R值单元具体为：