[发明专利]计算编码失真度和编码模式控制的方法及其系统

摘要

本发明涉及视频编码和处理领域，公开了一种计算编码失真度和编码模式控制的方法及系统。本发明中该方法包括以下步骤：根据编码宏块的像素值以及在当前预测模式下的预测像素值计算预测残差值，并获取预测残差值经过离散余弦变换后输出的DCT系数X；获取X经过量化和反量化处理后输出的频域系数Y；对DCT系数X经预设系数矩阵E_f调整后的频域系数和频域系数Y进行残差计算；对残差计算结果进行反离散余弦变换后得出当前预测模式下的编码失真度。本发明中，将空间域内像素残差计算转换为频域系数残差计算，仅靠频域数据的残差关系即可完成编码失真度的计算，缩短了残差计的延时，削减了内存同步缓冲空间，为硬件实现带来了便利。

主权项

1.一种计算编码失真度的方法，其特征在于，预设有系数矩阵Ef，该方法包括以下步骤：根据编码宏块的像素值以及在当前预测模式下的预测像素值计算预测残差值，并获取所述预测残差值经过离散余弦变换后输出的DCT系数X；获取所述DCT系数X经过量化和反量化处理后输出的频域系数Y；对所述DCT系数X经所述预设系数矩阵E_f调整后的频域系数和所述频域系数Y进行残差计算，其中，所述预设系数矩阵E_f对所述DCT系数X调整后的频域系数为其中，为矩阵相乘运算；对所述残差计算结果进行反离散余弦变换，并根据所述反离散余弦变换的输出得出当前预测模式下的编码失真度。