[发明专利]基于自适应代价分数阈值的帧内预测模式判决方法和系统

说明书

本发明提供了一种基于自适应代价分数阈值的帧内预测模式判决方法和系统，包括：步骤1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS₁，并计算CS₁中各模式的预测代价；步骤2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；步骤3：使用自适应代价分数阈值降低计算率失真代价的模式数量；步骤4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。本发明针对帧内预测粗糙模式判决利用角度分区降低初始候选模式集数量，避免了过多的预测代价计算。

技术领域

本发明涉及视频编解码技术领域，具体地，涉及一种基于自适应代价分数阈值的帧内预测模式判决方法和系统。

背景技术

随着多媒体技术和流媒体市场的发展，超高清视频由于其高分辨率和广泛的亮度动态范围给人们带来了卓越的视听体验，因此在社会中越来越受到大众欢迎。然而，于2013年发布的高效视频编码标准H.265/HEVC(High Efficiency Video Coding)已没有足够的压缩能力来应对视频传输与存储数据量急剧增加的情况。

H.266/VVC(Versatile Video Coding)作为H.265/HEVC的下一代编码标准，引入了许多新的编码工具来提高编码性能，但却是以高昂的复杂度为代价的。帧内预测作为编码器框架中极其重要的一环，有着举足轻重的地位，同时它也占据整体编码时间的很大一部分。对H.266/VVC参考软件VTM(VVC Test Model)的帧内预测模式判决各环节进行复杂度分析可知，粗糙模式判决(Rough Mode Decision,RMD)是帧内预测模式判决过程中除熵编码和变换与量化外最耗时的环节，因此可以尝试对RMD流程进行优化，降低最终进行率失真优化代价(RD Cost)计算的模式数量，以降低帧内预测的编码复杂度。

专利文献CN111447438A(申请号：CN202010331567.2)公开了一种面向通用视频编码的快速模式判决方法，利用粗略模式判决方法(RMD)获取上下文信息；根据残差的概率分布，从数学的角度预测编码码率Re；通过结合像素域中的上下文信息预测编码失真De；根据率失真代价Je从候选模式集中确定出帧内预测模式。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种基于自适应代价分数阈值的帧内预测模式判决方法和系统。

根据本发明提供的一种基于自适应代价分数阈值的帧内预测模式判决方法，包括：

步骤1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS₁，并计算CS₁中各模式的预测代价；

步骤2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；

步骤3：使用自适应代价分数阈值降低计算率失真代价的模式数量；

步骤4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。

优选的，所述初始候选模式集CS₁为：CS₁{2,10,18,26,34,42,50,58,66}；

预测代价的计算公式为：

Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)

其中，Cost表示帧内预测模式判决过程粗选时使用的预测代价，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数。