[发明专利]一种面向通用视频编码的快速帧内预测模式判决方法

权利要求书

1.一种面向通用视频编码的快速帧内模式判决方法，其特征在于，具体包括如下步骤：

步骤1，使用粗略模式判决方法从67种帧内预测模式中选择M种最有可能成为最优帧内预测模式的候选模式；

步骤2，计算第i(i∈M)种候选模式下的变换域残差的标准差δ；计算参数δ的方法具体为：

对于N×N大小的残差块系数r，经DCT变换后得变换矩阵T：

其中A为DCT矩阵，则：

其中[·]_u,u表示矩阵中位于(u,u)位置出的系数值，符号R'定义为：

参数ρ用于度量水平方向和垂直方向上像素值之间的相关性，其值设置为0.6；参数δ_p用于表示残差块内像素的标准差，该值通过平均绝对差值MAD近似：

步骤3，计算第i(i∈M)种候选模式下的编码码率；编码码率的计算方法具体为：

计算残差的编码码率：

R_r≈α·log₂^δ(4)其中α为0.5，关于帧内预测模式的编码码率通过RMD模块得到：

R_m＝R_s         (5)

则总的编码码率R_e：

R_e≈R_m+R_r(6)；

步骤4，计算第i(i∈M)种候选模式下的编码失真；计算编码失真的具体方法为：

根据帧内编码原理，位于(i,j)位置处的像素失真d表示为原始像素值p与重构像素值p′之差：

其中p_p是采用某种帧内预测模式后得到的像素预测值，p_e表示原始像素值与预测像素值之差，p_e′表示重构像素值与预测像素值之差；考虑到当前像素与参考像素具有强的相关性，且都使用相同的量化参数，因而当前像素的编码失真借助于参考像素的编码失真d(r_i,r_j)进行预测：

最终编码块的总失真D_e：

步骤5，计算第i(i∈M)种候选模式下的率失真代价；

步骤6，从候选模式集中选择率失真代价最小的预测模式作为编码块的最优帧内预测模式。

2.根据权利要求1所述的一种面向通用视频编码的快速帧内模式判决方法，其特征在于，所述步骤1中，M取值6。