[发明专利]一种基于方差的自适应快速视频编码方法

权利要求书

1.一种基于方差的自适应快速视频编码方法，其特征在于：包括：

A、计算当前帧CU的方差；

B、根据当前帧CU的方差采用基于方差的PU划分模式快速判决算法进行PU划分模式检测，得到率失真代价最小的PU划分模式以及CU不划分的最佳率失真代价；

C、根据当前帧CU的方差采用基于方差的CU划分模式快速判决算法进行CU划分判决，确定率失真代价最小的CU划分模式；

D、根据率失真代价最小的PU划分模式和CU划分模式进行编码；

所述步骤B，其包括：

B1、判断当前帧的编码配置是否为AI或AI10编码配置，若是，则执行步骤B2，反之，则执行步骤B3；

B2、判断当前帧是否满足CU需要划分的直接判断条件，若是，则跳至步骤B4，反之，则执行步骤B3，所述CU需要划分的直接判断条件为:

vcur>vmax·βvmax=(2bitdepth-1)24,]]>

其中，v_cur为当前帧CU的方差，β是第一自适应调整因子，v_max是当前帧CU的最大方差，bitdepth是编码器所使用的内部比特深度；

B3、采用基于方差的PU划分模式快速判决算法进行PU划分模式检测，选出率失真代价最小的PU划分模式及CU不划分的最佳率失真代价；

B4、直接判定当前帧CU需要进行划分，并递归遍历当前帧CU的子CU；

所述步骤B2，其包括：

B21、更新p的值为++p，所述p是前一帧四分树编码中所检测的CU总数；

B22、判断当前帧是否满足CU需要划分的直接判断条件，若是，则在更新q的值为++q后执行步骤B4，反之，则执行步骤B3，其中，q是前一帧四分树编码中满足CU需要划分的直接判断条件的CU总数；

所述第一自适应调整因子β的自适应调整方法为：

若q小于p的10％，则以当前帧四分树编码前一次自适应调整后的β值减去0.1所得的值作为当前CU的β值；

若q大于等于p的10％且小于等于p的15％，则当前CU的β值为当前帧四分树编码前一次自适应调整后的β值；

若q大于p的15％，则以当前帧四分树编码前一次自适应调整后的β值加上0.1所得的值作为当前CU的β值；

若β小于0.1，则将当前CU的β值设为0.1；

其中，第一自适应调整的因子β的初始值为1；

所述步骤B3，其包括：

B31、对SKIP模式进行测试，得到SKIP模式下的率失真代价；

B32、计算Part_Nx2N划分模式所对应的两个PU的方差，并判断这两个PU的方差是否均不小于给定的PU方差阈值，若是，则执行步骤B34,反之，则执行步骤B33；

B33、对Part_Nx2N划分模式进行测试，得到Part_Nx2N划分模式下的率失真代价，然后执行步骤B34；

B34、计算Part_2NxN划分模式所对应的两个PU的方差，并判断这两个PU的方差是否均不小于给定的PU方差阈值，若是，则执行步骤B36,反之，则执行步骤B35；

B35、对Part_2NxN划分模式进行测试，得到Part_2NxN划分模式下的率失真代价，然后执行步骤B36；

B36、对AMP模式进行测试,选出率失真代价最小的PU划分模式及CU不划分的最佳率失真代价，所述AMP模式包括PART_nRx2N划分模式、PART_nLx2N划分模式、PART_2NxnU划分模式和PART_2NxnD划分模式。