[发明专利]基于时空域相关性的视频编码Merge模式快速选择方法及装置

权利要求书

1.一种基于时空域相关性的视频编码Merge模式快速选择方法，在JEM中，所有视频帧中的编码单元依次进行2Nx2N模式、2Nx2N Merge模式、Affine Merge模式和FRUC Merge模式，获得每个模式下编码单元的率失真代价，选择最小率失真代价对应的模式作为编码单元的编码模式；其特征在于，若当前视频帧中当前待编码的编码单元CU在2Nx2N Merge模式下的最优运动矢量MV_Best＝(0，0)且该编码单元CU的变换系数全0标志位CBF_Flag＝1，则当前待编码的编码单元CU不需进行FRUC Merge模式；

若当前视频帧为B帧，在当前待编码的编码单元CU进行FRUC Merge模式中的Bilateral模式计算前，先计算当前待编码的编码单元CU的相邻编码单元的失真加权和Dist_Total以及相邻编码单元中选择FRUC Merge模式中的Bilateral模式的编码单元数量K_m，再判断是否满足：K_m＝0且Dist_Total＞TH，若满足，则当前待编码的编码单元CU跳过FRUC Merge模式中的Bilateral模式，直接进行Template模式，否则，依次进行FRUC Merge模式中的Bilateral模式和Template模式；

Dist_Total＝Dist_L*α+Dist_A*β+Dist_AL*γ

K_m＝∑f(Mode(CU_x))

其中，CU_x表示当前待编码的编码单元的相邻单元，x∈{Left、AboveLeft、Above、Col}，CU_Left、CU_AboveLeft、CU_Above、CU_Col分别代表当前待编码的编码单元的左邻块、左上邻块、上邻块以及同位块，所述同位块是指处于参考帧中，且位置和当前待编码的编码单元在当前帧中的位置一样的编码单元；f(Mode(CU_x)表示当前待编码的编码单元的相邻单元的模式标志，若属于Bilateral模式，取值为1，否则，取值为0；Dist_L、Dist_A、Dist_AL分别代表当前待编码的编码单元的的左邻块、上邻块、左上邻块所在当前模式的失真；α、β、γ分别为当前待编码的编码单元的的左邻块、上邻块、左上邻块的加权系数，取值范围为0-1；TH表示加权和阈值，取值在5500～7500之间。

2.根据权利要求1所述的方法，其特征在于，所述当前待编码的编码单元的的左邻块、上邻块、左上邻块的加权系数α、β、γ的取值分别为0.4，0.4，0.2。

3.根据权利要求1所述的方法，其特征在于，所述加权和阈值TH的取值为6000。

4.根据权利要求1所述的方法，其特征在于，编码单元CU在FRUC Merge模式中Bilateral模式下的率失真代价RD Cost_Bi按照以下公式计算获得：

RD Cost_Bi＝D+λR

其中，λ为拉格朗日乘子，R为编码单元在Bilateral模式下的比特数，D是编码单元在Bilateral模式下的失真，取值为SAD_t；

所述SAD_t是利用编码单元CU在2Nx2N模式下的最优运动矢量对对当前视频帧图像进行运动补偿，得到补偿图像Pic0、Pic1，并通过计算补偿图像Pic0、Pic1在编码单元CU范围内所有像素之间的绝对误差和。