[发明专利]H264自适应帧内模式选择码率估计的率失真优化方法及其装置

权利要求书

1.一种H.264中自适应帧内模式选择码率估计的率失真优化方法，包括如下步骤：

步骤1： 4x4块帧内预测，利用4×4 亮度块的上方和左方的已编码和重构像素，以及 9 种预测模型来实现帧内预测；

步骤2： 4x4块残差值获取，利用对象点的实际像素减去步骤1得到的预测的像素值，得到4x4块残差值矩阵X；

步骤3：DCT变换，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；

步骤4：评估R值，利用在Y矩阵中经过zig-zag 扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；

步骤5：RDO优化，定义如下代价函数，

，

其中，D为原始图像像素值与重建图像像素值之差的绝对值之和，为与量化参数QP相关的值，R为评估得到的R值，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。

2.根据权利要求1所述的率失真优化方法，其中所述DCT变化步骤包括如下步骤：

 

其中，

表示矩阵中每个元素乘以矩阵 E 中对应位置上的系数。

3.根据权利要求1所述的率失真优化方法，其中所述评估R值步骤具体为：    

Total_coeff为在Y矩阵中经过zig-zag 扫描非零系数的数目，Trailing_ones为在Y矩阵中经过zig-zag 扫描拖尾系数的数目，Total_zero为在Y矩阵中经过zig-zag 扫描最后一个非零系数前零的数目，Total_level为在Y矩阵中经过zig-zag 扫描所有非零系数的幅值绝对值的和，mv为运动矢量。

4.根据权利要求1所述的率失真优化方法，其中所述RDO优化步骤中， 。

5.一种H.264中自适应帧内模式选择码率估计的率失真优化装置，包括如下单元：

4x4块帧内预测单元，利用4×4 亮度块的上方和左方的已编码和重构像素，以及 9 种预测模型来实现帧内预测；

4x4块残差值获取单元，利用对象点的实际像素减去所述4x4块帧内预测单元得到的预测的像素值，得到4x4块残差值矩阵X；

DCT变换单元，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；

评估R值单元，利用在Y矩阵中经过zig-zag 扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；

RDO优化单元，定义如下代价函数，

 ，其中，

D为原始图像像素值与重建图像像素值之差的绝对值之和， 为与量化参数QP相关的值，R为评估得到的R值，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。

6.根据权利要求5所述的率失真优化装置，其中所述DCT变化单元包括：

 

其中，

表示矩阵中每个元素乘以矩阵 E 中对应位置上的系数。

7.根据权利要求5所述的率失真优化装置，其中所述评估R值单元具体为：

Total_coeff为在Y矩阵中经过zig-zag 扫描非零系数的数目，Trailing_ones为在Y矩阵中经过zig-zag 扫描拖尾系数的数目，Total_zero为在Y矩阵中经过zig-zag 扫描最后一个非零系数前零的数目，Total_level为在Y矩阵中经过zig-zag 扫描所有非零系数的幅值绝对值的和，mv为运动矢量。

8.根据权利要求5所述的率失真优化装置，其中所述RDO优化单元中，

。