[发明专利]一种基于决策树的帧间快速模式选择方法

权利要求书

1.一种基于决策树的帧间快速模式选择方法，其特征在于，包括以下步骤：

步骤1：构建当前编码单元CU最佳预测模式分类器；

从国际标准测试序列中随机选取四个视频测试序列，在所选的四个测试序列的100帧的编码信息中，获取当前编码单元CU的左邻块CU_Left、上邻块CU_Above以及同位块CU_Col的相关信息；

以CU_Left、CU_Above、CU_Col的最佳模式，CU_Col的MV，CU_Col的残差和编码QP值，当前编码单元CU的平均像素作为输入数据，以当前编码单元CU的最佳预测模式作为输出数据，选择10重交叉验证，对weka中的J48决策树进行训练，得到基于决策树的当前编码单元CU最佳预测模式分类器；

步骤2：获取编码过程中当前编码单元CU的最佳预测模式预估值mode(P)；

提取编码过程中，当前编码单元的CU_Left、CU_Above、CU_Col的最佳模式，CU_Col的MV，CU_Col的残差和编码QP值以及当前编码单元CU的平均像素，输入至步骤1构建的构建当前编码单元CU最佳模式分类器，获取编码过程中当前编码单元CU的最佳预测模式预估值mode(P)；

步骤3：获取左邻块CU_Left、上邻块CU_Above以及同位块CU_Col的最佳预测模式mode_j，以及在对应最佳预测模式下的失真D_j和率失真代价RD_j，若mode(P)与mode_j均不为Affine Merge模式，进入步骤4，否则，依次进行所有帧间模式的预测后，进入步骤9；

步骤4：统计相同最佳预测模式的个数i，其中，j表示Left、Above、Col；

步骤5：依据i的取值，获取当前编码单元CU的最佳预测模式候选值；

步骤6：对当前编码单元CU进行Affine Merge模式的预测，并将Affine Merge模式标记为当前编码单元CU的当前最佳模式mode^*，同时将Affine Merge模式下的率失真代价标记为当前最佳率失真代价RD^*；

步骤7：对当前编码单元CU进行mode(P)的预测，更新当前最佳预测模式mode^*和当前最佳率失真代价RD^*；

步骤8：基于当前编码单元CU的最佳预测模式预估值mode(P)，再依次对当前编码单元CU的最佳预测模式候选值进行模式预测，在每次模式预测后，更新当前最佳预测模式mode^*和当前最佳率失真代价RD^*；

在各种i的取值下，基于当前编码单元CU的最佳预测模式预估值mode(P)，依次选择当前编码单元CU的最佳预测模式候选值进行模式预测，从而结束当前编码单元帧间模式的预测；

步骤9：结束帧间模式的预测。