[发明专利]一种针对AVS2的帧内快速模式决策方法

说明书

一种针对AVS2的帧内快速模式决策方法，其特征在于，包括下列步骤：将β与30种角度预测模式对应的纹理方向角进行比较，选择与β最接近的12种角度所对应的角度预测模式，再加上3种非角度预测模式，遍历上述15种帧内预测模式的基于SATD的率失真代价的计算；经过比较，获得其中9种基于SATD的率失真代价较小的帧内预测模式作为候选模式，将候选模式按照其对应的基于SATD的率失真代价由小到大的顺序依次排列，形成第一级候选列表。本发明技术方案能够在视频的客观质量几乎不变的条件下，加快帧内模式决策，最终降低帧内编码的计算复杂度。

技术领域

本发明是一种针对AVS2的帧内快速模式决策方法，

背景技术

帧内编码是视频编码技术中重要的组成部分之一。目前主流编码工具采用了多种帧内预测模式来处理不同的视频图像内容。如在AVS2 视频编码标准中，所有的PU都要遍历33种帧内预测模式进行RMD 过程，得到9种较优的候选模式进行下一步的RDO过程，通过率失真代价的比较，选出最优的帧内预测模式。利用上述编码结构，帧内编码的性能显著升高，但复杂度急剧增加。

如果我们能够通过帧内快速模式决策算法减少帧内模式决策过程中的编码时间，这将有助于在保持视频的客观质量几乎不变的条件下，降低帧内编码的计算复杂度。

现有技术文献Min B,Cheung R C C.A Fast CU Size Decision Algorithm forthe HEVC Intra Encoder[J].IEEE Transactions on Circuits and Systems for VideoTechnology,2015,25(5):892-896. 中，作者提出了一种依赖编码单元纹理特性和它的最优编码模式之间关系的快速算法。该算法可以减少进入模式决策过程的帧内预测模式数量，但是其没有考虑时空相邻信息。

发明内容

本发明主要目白在于减少帧内模式决策时间，从而降低帧内编码的计算复杂度。

一种针对AVS2的帧内快速模式决策方法，其特征在于，包括下列步骤：

步骤一、利用Sobel算子获取当前PU中每个像素在水平和垂直方向的梯度值，计算如下所示

Gx_ij＝p_i+1，j-1+2×p_i+1，j+p_i+1，j+1-p_i-1，j-1-2×p_-1i，j-p_i-1，j+1， (1)

Gy_ij＝p_i-1，j-1+2×p_i，j-1+p_i+1，j-1-p_i-1，j+1-2×p_i，j+1-p_i+1，j+1， (2)

其中p_i，j代表在位置(i，j)上的像素，Gx_ij和Gy_ij分别代表像素水平方向和垂直方向的梯度值；

步骤二、根据上步骤得到的Gx_ij和Gy_ij，通过公式(3)计算当前PU 的梯度角θ。

其中n表示当前PU中水平方向或垂直方向的像素数。

步骤三、通过公式(4)得到当前PU的纹理方向角β；

步骤四、在AVS2标准中，PU的帧内预测模式一共有33种，包括3种非角度预测模式0～2和30种帧内角度预测模式3～32，每种角度预测模式对应一种纹理方向角；当β最接近帧内角度预测模式3 或32所对应的纹理方向角时，转到步骤六；否则转到下一步；