[发明专利]HEVC帧内CU划分和PU预测模式选择方法及系统

说明书

本发明公开了一种HEVC帧内CU划分和PU预测模式选择方法及系统，方法包括：依次提取编码模式待选择的CTU；将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围‑幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度；根据CU块的纹理复杂度确定CU块是否进行划分；根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；计算候选模式的率失真代价，选择率失真代价最小的模式作为PU块的最优预测模式。本发明大幅减少了计算复杂度和计算量，实现了PU最优预测模式的快速选择，可广泛应用视频编码领域。

技术领域

本发明涉及视频编码领域，尤其是一种HEVC帧内CU划分和PU预测模式选择方法及系统。

背景技术

数字视频压缩编码技术发展迅速，从20世纪90年代以来，一直是国内外的研究热点，其主要目标是在一定的计算资源内，在相同的视频重建质量的基础上追求尽可能高的编码效率。高性能视频编码(High Efficiency Video Coding，HEVC)标准是最新一代国际视频编码标准，与上一代编码标准H.264/AVC相比，实现了约50％的比特率降低。

对于帧内预测来说，HEVC支持从64×64到4×4的灵活编码单元尺寸和多达35种预测模式，其中包括33个方向预测模式、DC模式和planar模式，使得HEVC的帧内预测的复杂性高于H.264/AVC，33个方向预测模式如图1所示。

HEVC编码采用基于编码树单元(Coding Tree Unit，CTU)的四叉树编码结构，主要包括基于编码单元(CodingUnit，CU)进行编码的过程，基于预测单元(PredictionUnit，PU)进行预测的过程，基于变换单元(TransformactionUnit，TU)进行变换的过程。

CU的大小可以为64×64、32×32、16×16或者8×8。当CU大小为8×8时，PU可以为8×8，也可以为4×4。当CU块大小为其他尺寸时，PU的大小与CU的大小一致。

梯度算法是一种较为常见的图像处理算法，主要用于检测图像局部显著性变化，梯度值越大，则像素值变化越剧烈，当前图像纹理复杂度越高。

目前的帧内编码加速算法按照针对的是编码模式决策还是编码单元划分决策，分为两大类：快速CU大小决策和快速编码模式决策。

对于CU大小的快速决策方法大致可以分以下为三类：

第一类是根据相邻CU的深度对当前CU的深度范围进行估计。

第二类是根据CU的纹理特性来确定CU的深度，例如CU的梯度值、方差等参数。

第三类是基于编码代价即HAD代价和RDO代价进行CU单元的提前划分或者提前终止划分。

而为了加速帧内编码模式决策过程，通常会采用一种基于三步算法的帧内模式决策算法，该方法具体包括以下过程：

(1)粗选择过程(RMD)根据每个模式的从35个帧内模式中选择若干个哈德马代价(HAD cost)最小的模式保存到一个候选模式列表中。

(2)根据相邻块间较强的相关性，利用当前块周围邻近块得到三个最可能模式(MPM)加入到该候选模式列表中。

(3)候选模式列表中所有模式通过RDO过程，选择率失真代价(RD cost)最小的模式为当前编码块的最佳预测模式。

在以上三步算法的基础上，基于块方向检测的帧内预测模式决策方法被提出来用于进一步降低模式决策的复杂度，该方法进一步减少了需要进行RMD和RDO的帧内预测模式的数量。然而，目前基于块方向检测的帧内预测模式决策方法仍存在着以下缺陷或不足：