[发明专利]基于AVS视频编码的快速帧间预测模式选择方法

权利要求书

1.一种基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，所述方法包含以下步骤：

步骤1、将16×16预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判16×16预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤2、如果在16×16预测模式下，宏块残差不满足全零块判决条件，则将8×8预测模式作为候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判8×8预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤3、如果在16×16和8×8两种预测模式下，宏块残差都不满足全零块判决条件，则比较16×16和8×8这两种预测模式的率失真值，如果16×16的率失真值小于8×8的率失真值，则选择16×16预测模式为最佳预测模式，并退出帧间预测模式循环；

步骤4、如果16×16的率失真值大于8×8的率失真值，则根据预测模式尺寸预选原则，计算宏块水平和垂直的纹理复杂度；

步骤5、由步骤4所得到的宏块水平和垂直的纹理复杂度确定下一候选模式是采用16×8，还是8×16；

步骤6、采用步骤5所确定的候选模式对当前宏块进行预测，如果宏块残差满足全零块判决条件，就判当前预测模式为宏块的最佳预测模式，并退出帧间预测模式循环；

步骤7、如果步骤6所得到的宏块残差不满足全零块判决条件，则计算该预测模式的率失真值；

步骤8、将16×16的预测模式、8×8的预测模式以及步骤5所确定的预测模式的三项率失真值进行比较，选择率失真值最小的预测模式作为最佳预测模式，完成帧间模式选择。

2.如权利要求1所述的基于AVS视频编码的快速帧间预测模式选择方法，其特征在于，所述的全零块判决条件是根据AVS1-P2整数变换和量化的公式推出，具体步骤如下：

步骤a、将整数变换表达式$F(u,v)=\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{j=0}{\overset{7}{\mathrm{\Σ}}}{c}_{u,i}{x}_{i,j}{c}_{j,v}$进行不等式缩放，得到$F_{\max }(u,v)\≤\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{j=0}{\overset{7}{\mathrm{\Σ}}}\left|c_{u,i}{x}_{i,j}{c}_{j,v}\right|\≤\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{j=0}{\overset{7}{\mathrm{\Σ}}}\left|c_{u,i}{c}_{j,v}\right|\left|x_{i,j}\right|,$其中i、j表示行、列的索引；x表示宏块残差；c为整数变换矩阵；u、v满足0 ≤u，v≤7；

步骤b、由变换矩阵可得$F_{\max }(u,v)\≤100\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{j=0}{\overset{7}{\mathrm{\Σ}}}\left|x_{i,j}\right|;$

步骤c、结合AVS1-P2的量化公式可得$\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{j=0}{\overset{7}{\mathrm{\Σ}}}\left|x_{i,j}\right|\<\frac{2^L\×2^{19}}{100\×M_{\max }\×\mathrm{QC}},$其中，M_max为缩放矩阵M中的最大值；

步骤d、根据AVS1-P2的64级量化，每当量化参数QP的值增加8时，量化步长Q_step大致增加一倍，即量化系数表QC中的值可以表示为2^15-QP/8。由此可得全零块判决条件$\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{j=0}{\overset{7}{\mathrm{\Σ}}}\left|x_{i,j}\right|\<\frac{2^{\mathrm{QP}/4}\×2^{19}}{100\×M_{\max }}.$