[发明专利]基于AVS视频编码的快速帧间预测模式选择方法

摘要

本发明提供了一种基于AVS视频编码的快速帧间预测模式选择方法，所述方法通过选取候选模式对当前宏块进行预测，并结合全零块预先判决准则和纹理复杂度预选块尺寸准则，从而得到宏块的最佳预测模式。所述方法可在保持比特率和图像质量基本不变的同时，显著减少编码器的计算复杂性，可适用于实时编码。

主权项

1.一种基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，所述方法包含以下步骤：步骤1、将16×16预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判16×16预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；步骤2、如果在16×16预测模式下，宏块残差不满足全零块判决条件，则将8×8预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判8×8预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；步骤3、如果在16×16和8×8两种预测模式下，宏块残差都不满足全零块判决条件，则比较16×16和8×8这两种预测模式的率失真值，如果16×16的率失真值小于8×8的率失真值，则选择16×16预测模式为最佳预测模式，并退出帧间预测模式循环；步骤4、如果16×16的率失真值大于8×8的率失真值，则根据预测模式尺寸预选原则，计算宏块水平和垂直的纹理复杂度；步骤5、由步骤4所得到的宏块水平和垂直的纹理复杂度确定下一候选模式是采用16×8，还是8×16；步骤6、采用步骤5所确定的候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判当前预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；步骤7、如果步骤6所得到的宏块残差不满足全零块判决条件，则计算该预测模式的率失真值；步骤8、将16×16的预测模式、8×8的预测模式以及步骤5所确定的预测模式的三项率失真值进行比较，选择率失真值最小的预测模式作为最佳预测模式，完成帧间模式选择。