[发明专利]x265编码器中帧间编码模式快速选择方法

权利要求书

1.一种x265编码器中帧间编码模式快速选择方法，其特征在于，包括如下步骤：

步骤1：计算Merge模式的哈达玛代价值及Skip模式的率失真代价值；

步骤2：根据周围信息预测得到当前块的率失真代价值，即 预测的率失真代价值；

步骤3：若Skip模式的率失真代价值<θ*预测的率失真代价值，其中：θ为权重因子，则判定为SKIP模式，并转到步骤7，否则转到步骤4；

步骤4：计算Inter模式和Intra_in_inter模式的哈达玛代价值；

步骤5:从Merge、Inter、Intra_in_inter中选择哈达玛代价值最小的模式做一次率失真优化得到其率失真代价值，并与Skip模式的率失真代价值进行比较，选择最小者作为当前层的最优模式；若SKIP为最优模式则转步骤7，否则转步骤6；

步骤6：编码单元向下划分，进行下一层的模式选择；

步骤7：编码单元终止向下划分。

2.根据权利要求1所述的一种x265编码器中帧间编码模式快速选择方法，其特征在于，所述步骤1中，计算Merge模式的哈达玛代价值及Skip模式的率失真代价值过程，不用做Merge模式的率失真优化来计算Merge模式的率失真代价值。

3.根据权利要求1所述的一种x265编码器中帧间编码模式快速选择方法，其特征在于，所述步骤2中，根据周围信息预测得到当前块的率失真代价值，即 预测的率失真代价值，相邻的编码单元具有一定的相关性，这种相关性不止体现在相邻编码单元的层次深度信息中，也体现在其率失真代价值的值之间，所以用已编码的相邻编码单元的率失真代价值信息来提前判决出SKIP模式。

4.根据权利要求3所述的一种x265编码器中帧间编码模式快速选择方法，其特征在于，所述用已编码的相邻编码单元的率失真代价值信息来提前判决出SKIP模式，具体步骤为：

Step 1：找到当前编码单元所在的最大编码单元的4个相邻最大编码单元：左邻最大编码单元、上邻最大编码单元、左上邻最大编码单元、右上邻最大编码单元；

Step 2：计算相邻最大编码单元中与当前编码单元同等大小的编码单元的率失真代价值平均值，记为avgCostNeigh；

Step 3：计算当前最大编码单元中与当前编码单元同等大小的已编码单元的率失真代价值平均值，记为avgCostCU；

Step 4：计算预测率失真代价值，记为predRdCost，

PredRdCost＝0.6*avgCostCU+0.4*avgCostNeigh；

Step 5：计算Skip模式的率失真代价值SkipRdCost，如果该Skip模式的率失真代价值SkipRdCost<θ*预测的率失真代价值PredRdCost，则跳过剩下的层内模式划分，认为Skip模式为层内最优模式。

5.根据权利要求1-4任一项所述的一种x265编码器中帧间编码模式快速选择方法，其特征在于，所述步骤3中，比较步骤1计算得到的Skip模式的率失真代价值与步骤2预测得到的当前块的预测的率失真代价值的大小，若Skip模式的率失真代价值<θ*预测的率失真代价值，则判定为SKIP模式并终止编码单元向下划分，否则进入步骤4。

6.根据权利要求1-4任一项所述的一种x265编码器中帧间编码模式快速选择方法，其特征在于，所述步骤4中，只需计算Inter模式和Intra_in_inter模式的哈达玛代价值而不用计算其率失真代价值，从而不用进入率失真优化环路，减少计算量。

7.根据权利要求6所述的一种x265编码器中帧间编码模式快速选择方法，其特征在于，所述方法中：用哈达玛代价值代替率失真代价值作为编码单元模式判定的标准，对帧间预测率失真优化次数的减少，哈达玛代价值SatdCost定义如下：

satdcost＝satd_mode+λ_satd·B_stad

式中：satd_mode表示原始编码单元与预测编码单元块间的哈达玛变换后再绝对值求和，B_satd表示编码当前编码单元所要的比特数，λ表示拉格朗日算子。