[发明专利]一种基于纹理分析的HEVC帧内预测快速模式选择方法

说明书

技术领域

本发明属于多媒体编码领域，具体涉及一种针对HEVC视频编码标准的帧内预测快速模式选择方法，是一种根据图像纹理分析进行编码单元划分和预测方向快速模式选择的方法。

背景技术

随着新一代视频编码标准HEVC（High Efficiency Video Coding）的发布，视频的编码效率进一步提升。相比于以前的视频编码标准H.264/AVC，在相同编码质量的情况下，可以节省近一半的码率，然而这是以牺牲编码复杂度为代价的。如何在不改变码流结构和保持原有码率的前提下，最大程度的降低算法复杂度，显著提高编码速度，是HEVC大规模推广与应用的关键所在。

帧内编码可以为帧间编码提供参考信息，并且可以阻止由误码引起的错误漂移，因此在视频编码中帧内编码是必不可少的。影响HEVC帧内编码耗时的主要有两个部分：编码单元的划分和预测方向的选择。

针对编码单元的快速划分主要有两种方法，一是根据已编码单元的率失真代价利用贝叶斯等统计学习的方法确定编码单元的划分，然而离线的学习结果不能很好的通用于所有的视频序列，在线的学习方式又会引入额外的计算复杂度；二是根据当前编码单元的图像内容复杂度确定编码单元的划分，这种方法的关键在于计算图像复杂度以及选择合适的阈值。

针对预测方向的快速模式选择主要有三种方法，一是根据相邻区域或者相邻帧间具有较强的相关性，利用周围编码单元的信息减少当前编码单元的预测方向候选集，然而实际应用中，经常出现场景切换或纹理丰富的视频，这种情况下时空相关性较弱，导致编码性能明显下降；二是利用最佳的预测方向与编码单元的纹理方向间较高的相关性，减少候选预测方向的数量；三是通过一种低复杂度的方式估计每一种预测模式的码率和失真降低率失真代价的计算复杂度，这种方法保留了所有的预测方向，并且没有增加额外的计算复杂度，但是由于自然图像视频序列的随机性较强，很难构造一个适用于所有视频序列的率失真估计模型，相比于第二种方法，这种方法的编码性能下降比较明显。

在新一代视频编码标准中，HEVC引入了新的编码树单元（Coding Tree Unit,CTU）概念，用于替代现有视频编码标准中的宏块概念，另外还有编码单元、预测单元、变换单元等概念。编码树单元是一个递归的四叉树结构，深度可以从0到3，即编码单元的大小可以从64×64到8×8。对于最小的编码单元来说，HEVC的帧内编码又可以将其划分为4×4的预测单元，预测单元的大小可以从64×64到4×4。而对于帧内预测来说，HEVC对每一个预测单元都提供了35种预测模式。相比于现有视频编码标准H.264/AVC，编码单元划分和预测方向选择的优化问题更为复杂。本发明根据纹理分析构造当前编码树单元的图像复杂度描述，并据此快速确定编码单元的划分；利用纹理分析获得的纹理方向与预测方向间较强的相关性，减少预测模式的数量。

发明内容

为了克服现有技术的上述缺陷，本发明提出了一种基于纹理分析的HEVC帧内预测快速模式选择方法，该方法根据视频内容的复杂度确定编码树单元的划分，并根据图像的纹理方向减小预测方向的候选集。实验证明本方法能够很好的适应高清视频图像的实时压缩应用，大大提高了编码速度。

为实现上述目的，本发明采用的技术方案为：

一种基于纹理分析的HEVC帧内预测快速模式选择方法，该方法步骤如下：

步骤（1）、对当前编码树单元，计算每个可能的编码单元的图像复杂度和主纹理方向；

步骤（2）、对当前编码树单元，按照Z扫描顺序从上往下重复执行步骤（3）至步骤（6），直至扫描完当前编码树单元；

步骤（3）、若当前编码单元的图像复杂度小于或等于阈值，则判定该编码单元为平滑单元，否则判定为复杂单元；

步骤（4）、对于平滑的编码单元，利用步骤（5）计算当前编码单元的率失真代价；

步骤（5）、对于当前编码单元中的每一个预测单元，保留该单元主纹理方向周围的8个预测方向以及planar预测和DC预测模式，按照HEVC视频编码标准进行粗略模式选择和率失真优化选择；

步骤（6）、对于复杂的编码单元，按照步骤（3）至步骤（6）依次递归扫描四个子单元，若四个子单元都判定为平滑单元，则利用步骤（5）计算当前编码单元的率失真代价，并根据率失真代价最小原则判定当前编码单元是否划分，同时更新阈值。

所述步骤（1）具体包括如下步骤：

步骤（11）、对当前编码树单元中的每一个4×4的单元，分别沿水平、垂直、左下、右下四个方向计算梯度并计算梯度的绝对值和SAG；