[发明专利]一种面向通用视频编码的快速帧内预测模式判决方法

说明书

本发明公开了一种面向通用视频编码的快速模式判决方法，利用粗略模式判决方法(RMD)获取上下文信息；根据残差的概率分布，从数学的角度预测编码码率Rsubgt;e/subgt;；通过结合像素域中的上下文信息预测编码失真Dsubgt;e/subgt;；根据率失真代价Jsubgt;e/subgt;从候选模式集中确定出帧内预测模式。实验结果表明，本发明所提的通用视频编码快速帧内模式判决方法在对编码效率影响较小的情况下可以降低约29％的编码复杂度。

技术领域

本发明属于视频编码技术领域，具体涉及一种面向通用视频编码的快速帧内预测模式判决方法。

背景技术

随着网络技术的迅速发展，视频编码技术的成熟和完善，传输技术的不断提高，视频业务得到了广泛的应用。如何更好的实现高效的视频编码，一直是视频领域的研究热点。新一代视频编码标准VVC(通用视频编码)针对“高清/超高清视频的大数据量”这一点，凭借先进的编码工具以更灵活的手段来有效地表示丰富的视频内容，不仅节省了大量的存储空间和传输带宽，同时具备了应对新业务挑战的能力。

为了进一步利用空间相关性来去除视频内容的冗余，VVC引入了67种帧内预测模式，包括多角度模式、Planar模式和DC模式。依据视频的纹理特性，通过使用帧内预测模式判决，从众多模式中选择出一种最优的模式来最大化VVC的帧内编码效率。其主要借助于拉格朗日优化技术实现，每一种模式经过预测、变换、量化、熵编码、反量化、反变换、像素重构等步骤得到编码码率和编码失真，然后计算率失真代价，通过比较率失真代价来确定最优的预测模式。

在VVC中，帧内预测模式判决算法分为粗略模式判决(RMD)和率失真优化(RDO)两部分。RMD模块中首先以哈达玛变换后的绝对误差和D_s为失真测度，计算帧内预测模式的率失真代价J_s：

J_s＝D_s+λ_s·R_s，        (1)

其中λ_s为拉格朗日因子，R_s表示编码帧内预测模式所耗的比特数。依据式(1)结果，选择M(M＝6)种最有可能成为最优帧内预测模式组成最可能模式集。然后在RDO中对最可能模式集中的每一种帧内预测模式进行编码，选择率失真代价J_e最小的模式作为最优帧内预测模式：

J_e＝D_e+λ_e·R_e.       (2)

参数λ_e表示拉格朗日因子，R_e为帧内预测模式的编码比特数和预测残差的编码比特数之和，D_e为均方误差和。