[发明专利]一种基于方差的自适应快速视频编码方法

摘要

本发明公开了一种基于方差的自适应快速视频编码方法，包括计算当前帧CU的方差；根据当前帧CU的方差采用基于方差的PU划分模式快速判决算法进行PU划分模式检测，得到率失真代价最小的PU划分模式以及CU不划分的最佳率失真代价；根据当前帧CU的方差采用基于方差的CU划分模式快速判决算法进行CU划分判决，确定率失真代价最小的CU划分模式；根据率失真代价最小的PU划分模式和CU划分模式进行编码。本发明采用了基于方差的PU划分模式快速判决算法以及基于方差的CU划分模式快速判决算法相结合来进行CU以及PU的划分模式选择，大大降低了编码复杂度，提高了编码速度，可广泛应用于视频编码领域。

主权项

一种基于方差的自适应快速视频编码方法，其特征在于：包括：A、计算当前帧CU的方差；B、根据当前帧CU的方差采用基于方差的PU划分模式快速判决算法进行PU划分模式检测，得到率失真代价最小的PU划分模式以及CU不划分的最佳率失真代价；C、根据当前帧CU的方差采用基于方差的CU划分模式快速判决算法进行CU划分判决，确定率失真代价最小的CU划分模式；D、根据率失真代价最小的PU划分模式和CU划分模式进行编码；所述步骤B，其包括：B1、判断当前帧的编码配置是否为AI或AI10编码配置，若是，则执行步骤B2，反之，则执行步骤B3；B2、判断当前帧是否满足CU需要划分的直接判断条件，若是，则跳至步骤B4，反之，则执行步骤B3，所述CU需要划分的直接判断条件为:vcur>vmax·βvmax=(2bitdepth-1)24,]]>其中，vcur为当前帧CU的方差，β是第一自适应调整因子，vmax是当前帧CU的最大方差，bitdepth是编码器所使用的内部比特深度；B3、采用基于方差的PU划分模式快速判决算法进行PU划分模式检测，选出率失真代价最小的PU划分模式及CU不划分的最佳率失真代价；B4、直接判定当前帧CU需要进行划分，并递归遍历当前帧CU的子CU；所述步骤B2，其包括：B21、更新p的值为++p，所述p是前一帧四分树编码中所检测的CU总数；B22、判断当前帧是否满足CU需要划分的直接判断条件，若是，则在更新q的值为++q后执行步骤B4，反之，则执行步骤B3，其中，q是前一帧四分树编码中满足CU需要划分的直接判断条件的CU总数；所述第一自适应调整因子β的自适应调整方法为：若q小于p的10％，则以当前帧四分树编码前一次自适应调整后的β值减去0.1所得的值作为当前CU的β值；若q大于等于p的10％且小于等于p的15％，则当前CU的β值为当前帧四分树编码前一次自适应调整后的β值；若q大于p的15％，则以当前帧四分树编码前一次自适应调整后的β值加上0.1所得的值作为当前CU的β值；若β小于0.1，则将当前CU的β值设为0.1；其中，第一自适应调整的因子β的初始值为1；所述步骤B3，其包括：B31、对SKIP模式进行测试，得到SKIP模式下的率失真代价；B32、计算Part_Nx2N划分模式所对应的两个PU的方差，并判断这两个PU的方差是否均不小于给定的PU方差阈值，若是，则执行步骤B34,反之，则执行步骤B33；B33、对Part_Nx2N划分模式进行测试，得到Part_Nx2N划分模式下的率失真代价，然后执行步骤B34；B34、计算Part_2NxN划分模式所对应的两个PU的方差，并判断这两个PU的方差是否均不小于给定的PU方差阈值，若是，则执行步骤B36,反之，则执行步骤B35；B35、对Part_2NxN划分模式进行测试，得到Part_2NxN划分模式下的率失真代价，然后执行步骤B36；B36、对AMP模式进行测试,选出率失真代价最小的PU划分模式及CU不划分的最佳率失真代价，所述AMP模式包括PART_nRx2N划分模式、PART_nLx2N划分模式、PART_2NxnU划分模式和PART_2NxnD划分模式。