[发明专利]一种适用于AVS2和HEVC帧内编码的快速方法

权利要求书

1.一种适用于AVS2和HEVC帧内编码的快速方法，其特征是，具体包括如下步骤：

(1)对I帧进行编码，每个LCU进行四叉树向下递归划分，当编码8x8的CU时，首先计算8x8 PU的编码代价RDCost_8x8，当计算完8x8 PU的编码代价之后，得到8x8 PU的重建图像；

(2)通过计算8x8 PU的重建图像与原始图像的之间的失真作为纹理一致性及预测效果是否够好的依据；具体为：将8x8 PU的重建图像均分为4个4x4的区域，分别计算每个4x4块重建图像与原始图像之间的失真SSD，得到四个失真SSD分别为ssd0、ssd1、ssd2、ssd3；其中：重建图像与原始图像之间的失真SSD指的是重建图像与原始图像之间的差值平方和；

(3)计算这四个失真SSD的最大值和最小值，分别为ssd_max和ssd_min，当ssd_max与ssd_min的差距小于Threshold1及ssd_max小于Threshold2时，则不需要再尝试INTRA_NXN预测模式，直接选择8x8PU预测模式；否则，需要计算INTRA_NxN的编码代价；其中：Threshold1是预先设定的阈值，Threshold2是预先设定的阈值；

(4)计算4个4x4 PU的总的编码代价RDCost_intraNxN，RDCost_8x8与RDCost_intraNxN进行比较，选择编码代价更小的作为8x8 PU编码单元的最终预测模式。

2.根据权利要求1所述的一种适用于AVS2和HEVC帧内编码的快速方法，其特征是，在步骤(3)中，计算ssd_diff_ratio来量化ssd_max与ssd_min的差距：ssd_diff_ratio＝(ssd_max–ssd_min)/ssd_min；如果ssd_diff_ratioThreshold1时，则认为纹理一致。

3.根据权利要求1所述的一种适用于AVS2和HEVC帧内编码的快速方法，其特征是，在步骤(3)中，通过阈值来判断8x8 PU的预测效果；具体来说，如果ssd_maxThreshold2，则认为当前8x8 PU预测效果够好。

4.根据权利要求1或2或3所述的一种适用于AVS2和HEVC帧内编码的快速方法，其特征是，在步骤(3)中，还需要满足ssd_max与ssd_min的差距与ssd_max的乘积小于Threshold3时，则不需要再尝试INTRA_NXN预测模式；其中：Threshold3＝Threshold1*Threshold2/3。