[发明专利]一种针对H.266/VVC帧内预测编码的快速模式选择方法

说明书

一种针对H.266/VVC帧内预测编码的快速模式选择方法，包括如下步骤：1)根据结构张量对当前编码CU的纹理复杂度进行判别，若为平坦区域，则进入步骤2)，否则进入步骤3)；2)第一轮SATD模式粗选只对DC模式、Planar模式和垂直模式进行代价计算，并跳过第二轮SATD模式粗选的扩展角度模式选择；3)根据结构张量的奇异值分解获取主方向特征向量，并依据主方向特征向量进行模式区域的选择，跳过非必要模式代价计算。本发明能够在保持H.266/VVC编码效率的前提下，有效地降低H.266/VVC帧内预测编码计算复杂度。

技术领域

本发明涉及视频编码领域，特别是指一种针对H.266/VVC帧内预测编码的快速模式选择方法。

背景技术

随着多媒体通信技术和各种视频终端处理能力的快速发展，4K/8K等超高清视频逐步在生活中普及。视频数据量激增对编码技术提出了更高的要求。考虑到上一代视频编码标准H.265/HEVC不能满足超高清视频压缩性能要求，运动图像专家组(MPEG)和视频编码专家组(VCEG)成立了JVET，制定了新一代视频编码标准H.266/VVC。

相比于H.265/HEVC，H.266/VVC取得较高的编码效率。关于帧内编码，H.266/VVC传统帧内预测模式从35种增加到67种，预测方法变成两轮SATD粗选，第一轮的SATD粗选从传统的35种模式中进行代价计算，并加入候选列表。第二轮的SATD粗选首先对第一轮的SATD粗选出的模式进行相邻模式的代价计算，即扩展角度模式代价计算，并更新候选列表。然后依次对MRL中的扩展行模式，MIP的模式进行代价计算和筛选，将最优模式加入候选列表。遍历MPM列表中的前几种可能模式，判断是否在候选列表中，如果没在，则加入候选列表。最后判断是否进行ISP模式，如果进行ISP模式，则创立一个新的RD候选列表，其中包含传统的帧内预测模式，MRL模式以及ISP的帧内预测模式。

两轮的SATD粗选比H.265/HEVC能提供更准确的预测，提高编码性能，但同时增加巨额计算复杂度。因此，如何在保持H.266/VVC编码性能前提下，有效降低编码复杂度，成为H.266/VVC迫切需要解决的问题。

发明内容

本发明的主要目的在于H.266/VVC帧内预测编码复杂度高的问题，提出一种针对H.266/VVC帧内预测编码的快速模式选择方法，根据编码CU内容特性准确地筛选减少预测模式，实现在保证编码效率几乎不变的情况下有效降低了编码器计算复杂度。

本发明采用如下技术方案：

一种针对H.266/VVC帧内预测编码的快速模式选择方法，其特征在于，包括如下步骤：

1)根据结构张量对当前编码CU的纹理复杂度进行判别，若为平坦区域，则进入步骤2)，否则进入步骤3)；

2)第一轮SATD模式粗选只对DC模式、Planar模式和垂直模式进行代价计算，并跳过第二轮SATD模式粗选的扩展角度模式选择；

3)根据结构张量的奇异值分解获取主方向特征向量，并依据主方向特征向量进行模式区域的选择，跳过非必要模式代价计算。

优选的，步骤1)中，对当前编码CU计算结构张量矩阵ST和ST的迹H；将结构张量矩阵ST的迹H与预设的阈值T_ST进行比较，并统计满足条件的像素块比例B_D，将像素块比例B_D与预设的阈值T_D进行比较判断当前编码CU块是否为平坦区域。

优选的，步骤1)中，所述的结构张量矩阵ST按下式计算：

G_xy＝G_x×G_y

其中表示当前编码单元CU的第i行第j列的水平梯度值，表示当前编码单元CU的第i行第j列的垂直梯度值。