[发明专利]一种基于纹理分析的HEVC帧内预测快速模式选择方法

摘要

本发明公布了一种基于纹理分析的HEVC帧内预测快速模式选择方法，该方法在对编码树单元进行帧内预测之前，根据水平、垂直、左下、右下等四个方向上的梯度绝对值和确定编码树单元中每一个4×4单元的主纹理方向和纹理复杂度，并根据纹理平滑区域采用较大编码单元，纹理复杂区域采用较小编码单元的原则确定当前编码树单元的划分。在预测时，根据预测单元的主纹理方向，排除掉最不可能的若干预测模式，然后按照HEVC编码标准进行粗略模式选择和率失真优化模式选择。本发明所提出的基于纹理分析的HEVC帧内预测快速模式选择方法能够在保证编码质量的前提下，显著提高编码速度。

主权项

一种基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：该方法步骤如下：步骤(1)、对当前编码树单元，计算每个可能的编码单元的图像复杂度和主纹理方向；步骤(2)、对当前编码树单元，按照Z扫描顺序从上往下重复执行步骤(3)至步骤(6)，直至扫描完当前编码树单元；步骤(3)、若当前编码单元的图像复杂度小于或等于阈值，则判定该编码单元为平滑单元，否则判定为复杂单元；步骤(4)、对于平滑的编码单元，利用步骤(5)计算当前编码单元的率失真代价；步骤(5)、对于当前编码单元中的每一个预测单元，仅保留该单元主纹理方向周围的8个预测方向以及planar预测和DC预测模式，按照HEVC视频编码标准进行粗略模式选择和率失真优化选择；步骤(6)、对于复杂的编码单元，按照步骤(3)至步骤(6)依次递归扫描四个子单元，若四个子单元都判定为平滑单元，则利用步骤(5)计算当前编码单元的率失真代价，并根据率失真代价最小原则判定当前编码单元是否划分，同时更新阈值；所述步骤(6)具体包括如下步骤：步骤(61)、按照步骤(3)至步骤(6)依次递归扫描四个子单元，若四个子单元都判定为平滑单元，则利用步骤(5)计算当前编码单元的率失真代价Cost_coarse，否则继续递归扫描下一层次的子单元；步骤(62)、若当前编码单元的率失真代价Cost_coarse小于或等于四个子单元的率失真代价和Cost_fine，则将阈值调大，否则将阈值调小；所述步骤(62)中阈值调大的更新策略为：TH′＝TH+α×(Cost_fine‑Cost_coarse)/2式中TH为更新前的阈值，TH′为更新后的阈值，α为纹理复杂度与率失真代价间的线性模型的乘法因子。