[发明专利]一种适用于HEVC的快速帧间模式选择方法

摘要

本发明一种适用于HEVC的快速帧间模式选择方法，在帧间编码时，对每个编码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择，取前一模式为该编码单元的最佳模式；本发明所提出的方法简单易行，能大大降低HEVC帧间编码的计算复杂度。

主权项

1.一种适用于HEVC的快速帧间模式选择方法，其特征在于：把2N×2N中的帧间预测模式细分为SKIP和2N×2N模式，对HEVC的帧间预测模式按下述方法进行排序：令序号为0的模式为模式0，序号为1的模式为模式1，依此类推，序号为12的模式为模式12,记序号为m对应的模式的率失真代价为RDO(m)；在帧间编码时，对每个编码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择，取前一模式为该编码单元的最佳模式，设最大编码单元的大小为64×64，快速帧间模式选择方法具体如下：步骤1、读入当前的最大编码单元，判断其是否为帧间预测编码块，若为帧间预测编码，转步骤2，否则进行帧内预测编码，并转步骤7；步骤2、计算当前编码单元选择SKIP_64×64模式时的率失真代价RDO(0)，转步骤3；步骤3、计算当前编码单元选择64×64模式的率失真代价RDO(1)，若RDO(0)<RDO(1)，则判定SKIP_64×64模式为当前编码单元的最佳模式，转步骤7；否则，转步骤4；步骤4、分别计算当前编码单元选择64×32、32×64模式时的率失真代价，选择其中率失真代价较小的记为RDO(2)，若RDO(1)<RDO(2)，则判定64×64模式为当前编码单元的最佳模式，转步骤7；否则，转步骤5；步骤5、把当前编码单元划分为4个大小为32×32的子编码单元，分别计算每个32×32的子编码单元选择SKIP_32×32模式时的率失真代价RDOi(3)，i＝0，1，2，3；并计算SKIP_32×32模式下当前编码单元的率失真代价：RDO(3)＝RDO0(3)+RDO1(3)+RDO2(3)+RDO3(3)，若RDO(2)<RDO(3)，则判定64×32和32×64模式中率失真代价较小的模式为当前编码单元的最佳模式，转步骤7；否则，转步骤6；步骤6、如果当前4个划分尺寸为32×32的子编码单元均已处理完毕，转步骤7；否则，转步骤6.1确定下一个尺寸为32×32的子编码单元的最佳模式；步骤6.1、计算当前子编码单元，即第i号子编码单元，选择32×32模式时的率失真代价RDOi(4)，若RDOi(3)<RDOi(4)，则判定SKIP_32×32模式为当前子编码单元的最佳模式，转步骤6；否则，转步骤6.2；步骤6.2、分别计算当前子编码单元选择32×16、16×32模式的率失真代价，选择其中率失真代价较小的记为RDOi(5)，若RDOi(4)<RDOi(5)，则判定32×32模式为当前子编码单元的最佳模式，转步骤6；否则，转步骤6.3；步骤6.3、把当前尺寸为32×32的第i号编码单元划分为4个尺寸为16×16的子编码单元，分别计算每个16×16尺寸的子编码单元选择SKIP_16×16模式时的率失真代价RDOij(6)，j＝0,1,2,3，并计算当前32×32的编码单元选择SKIP_16×16模式的率失真代价：RDOi(6)＝RDOi0(6)+RDOi1(6)+RDOi2(6)+RDOi3(6)，若RDOi(5)<RDOi(6)，则判定32×16和16×32模式中率失真代价较小的模式为当前子编码单元的最佳模式，转步骤6；否则，转步骤6.4；步骤6.4、如果当前4个划分尺寸为16×16的子编码单元均已处理完毕，转步骤6；否则，转步骤6.4.1确定下一个尺寸为16×16的子编码单元的最佳模式；步骤6.4.1、计算当前子编码单元，即第(i，j)号子编码单元，选择16×16模式时的率失真代价RDOij(7)，若RDOij(6)<RDOij(7)，则判定SKIP_16×16模式为当前子编码单元的最佳模式，转步骤6.4；否则，转步骤6.4.2；步骤6.4.2、分别计算当前子编码单元选择16×8、8×16模式时的率失真代价，选择其中率失真代价较小的记为RDOij(8)，若RDOij(7)<RDOij(8)，则判定16×16模式为当前子编码单元的最佳模式，转步骤6.4；否则，转步骤6.4.3；步骤6.4.3、把当前大小为16×16的第(i，j)号子编码单元划分为4个尺寸为8×8的子编码单元，分别计算每个尺寸为8×8的子编码单元选择SKIP_8×8模式时的率失真代价RDOijk(9)，k＝0,1,2,3；并计算当前16×16的编码单元选择SKIP_8×8模式的率失真代价：RDOij(9)＝RDOij0(9)+RDOij1(9)+RDOij2(9)+RDOij3(9)；若RDOij(8)<RDOij(9)，则判定16×8和8×16模式中率失真代价较小的模式为当前子编码单元的最佳模式，转步骤6.4；否则，转步骤6.4.4；步骤6.4.4、如果当前4个划分尺寸为8×8的子编码单元均已处理完毕，转步骤6.4；否则，转步骤6.4.4.1确定下一个尺寸为8×8的子编码单元的最佳模式；步骤6.4.4.1、计算当前子编码单元，即第ijk号子编码单元，选择8×8模式时的率失真代价RDOijk(10)；若RDOijk(9)<RDOijk(10)，则判定SKIP_8×8模式为当前子编码单元的最佳模式，转步骤6.4.4；否则，转步骤6.4.4.2；步骤6.4.4.2、分别计算当前子编码单元选择8×4、4×8模式时的率失真代价，并选择其中率失真代价较小的记为RDOijk(11)，若RDOijk(10)<RDOijk(11)，则判定8×8模式为当前子编码单元的最佳模式，转步骤6.4.4；否则，转步骤6.4.4.3；步骤6.4.4.3、把当前编码单元向下划分为4个尺寸为4×4的子编码单元，选择4×4模式时总的率失真代价RDOijk(12)，若RDOijk(11)<RDOijk(12)，则判定8×4、4×8模式中率失真代价较小的模式为当前子编码单元的最佳模式，否则，判定4×4模式为当前子编码单元的最佳模式，转步骤6.4.4；步骤7、当前最大编码单元模式选择过程结束，转步骤1编码下一个最大编码单元。