[发明专利]H264自适应帧内模式选择码率估计的率失真优化方法及其装置

摘要

一种H.264中自适应帧内模式选择码率估计的率失真优化方法及其系统，所述方法包括如下步骤：4x4块帧内预测步骤，利用4×4亮度块的上方和左方的已编码和重构像素，以及9种预测模型来实现帧内预测；4x4块残差值获取步骤，利用对象点的实际像素减去得到的预测的像素值，得到4x4块残差值矩阵X；DCT变换步骤，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；评估R值步骤，利用在Y矩阵中经过zig-zag扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；RDO优化步骤，定义代价函数，，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。本发明能够提高编码效率，降低时间复杂度，提高RDO效率。

主权项

1.一种H.264中自适应帧内模式选择码率估计的率失真优化方法，包括如下步骤：步骤1： 4x4块帧内预测，利用4×4 亮度块的上方和左方的已编码和重构像素，以及 9 种预测模型来实现帧内预测；步骤2： 4x4块残差值获取，利用对象点的实际像素减去步骤1得到的预测的像素值，得到4x4块残差值矩阵X；步骤3：DCT变换，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；步骤4：评估R值，利用在Y矩阵中经过zig-zag 扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；步骤5：RDO优化，定义如下代价函数，，其中，D为原始图像像素值与重建图像像素值之差的绝对值之和，为与量化参数QP相关的值，R为评估得到的R值，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。