[发明专利]一种适用于AVS2和HEVC帧内编码的快速方法

说明书

本发明公开了一种适用于AVS2和HEVC帧内编码的快速方法。它具体包括如下步骤：(1)对I帧进行编码，每个LCU进行四叉树向下递归划分，当编码8x8的CU时，首先计算8x8PU的编码代价，同时得到8x8PU的重建图像；(2)将8x8PU的重建图像均分为4个4x4的区域，分别计算每个4x4块重建图像与原始图像之间的失真SSD，得到四个失真SSD；(3)计算这四个失真SSD的最大值ssd_max和最小值ssd_min，当ssd_max与ssd_min的差距及ssd_max小于某个阈值时，直接选择8x8PU预测模式；否则，需要计算INTRA_NxN的编码代价；(4)计算4个4x4PU的总的编码代价，两个编码代价进行比较，选择编码代价更小的作为8x8PU编码单元的最终预测模式。本发明的有益效果是：判断准确度高，节省AVS2和HEVC的帧内编码时间，保证高压缩率。

技术领域

本发明涉及视频编码相关技术领域，尤其是指一种适用于AVS2和HEVC帧内编码的快速方法。

背景技术

HEVC是2013年由国际电信联盟(ITU-T)发布的最新一代的视频编码标准，相比上一代编码标准H264，HEVC的压缩效率提升了一倍，能大大降低目前正在普及的4K超高清视频的码率，减少带宽消耗。

AVS2是中国于2016年12月份发布的面向超高清视频应用的最新一代标准。AVS2的编码框架与HEVC类似，在编码效率上要略优于HEVC。目前AVS2视频标准已成为中国广电总局4K超高清电视技术应用实施指南(2018版)采用的唯一视频编码标准，具有广阔的应用前景。

为了适应更高分辨率的视频的压缩，AVS2和HEVC都采用了基于四叉树的块划分结构，这种结构允许采用更大的块及对块进行更灵活的划分来提高压缩效率。具体来说：1、相比H264的16x16编码宏块而言，AVS2/HEVC最大允许64x64的编码单元(LCU，Largest CodingUnit)。2、AVS2/HEVC对编码单元进行四叉树划分成更小的编码单元(CU，Coding Unit)，而且最小的编码单元可以小到8x8。3、对AVS2/HEVC来说，在正方形的编码单元内部，可以进一步划分成不同形状的预测单元(Prediction Unit，PU)，所有的帧内/帧间预测都是在预测单元内进行的。4、对AVS2/HEVC的帧内编码而言，在编码最小CU(8x8)时，有两种预测单元划分方式，即1个8x8 PU和4个4x4的PU，其中4个4x4的PU可以称之为INTRA_NXN模式。INTRA_NXN模式对4个4x4的小图像分别进行预测编码，可以对4个小块得到更精确的预测结果，因此对纹理丰富的区域可以获得更好的预测效果。但是对高清超高清视频而言，由于视频分辨率很高，因此尺寸很小的丰富纹理相对较少。对AVS2或者HEVC码流进行分析统计得到，最终选择INTRA_NXN模式的比例一般都不超过10％。

AVS2/HEVC编码器采用率失真优化(RDO)来选择最优的编码单元和预测单元。率失真优化是根据编码失真和编码后比特数来计算编码代价RDCost，公式表达为RDCost＝D+lambda*R。其中D为编码失真，一般将解码后的重建图像与原始图像之间的差值平方和SSD(Sum of Squared Difference)作为失真度量；R为编码后比特数；lambda是与量化参数QP正相关的拉格朗日常数。编码器比较不同尺寸的编码单元或者不同的预测单元之间的编码代价，选择代价最小的作为最终模式，从而达到最高的压缩效率。