[发明专利]分级自适应的HEVC帧内预测模式快速决策方法

摘要

本发明适用于视频编解码技术领域，提供一种基于分组自适应的帧内预测模式快速决策方法及装置，其所述方法包括：采取分级计算、逐步精细的模式筛选方法，首先抽选12个候选模式进行预测方向初步判断，然后根据初步判断结果再精选预测模式；并根据RMD粗选模式的HCost代价，采用代价自适应的方法提前排除部分可能性较低的候选模式，以达到减少帧内预测模式数量，降低计算复杂度的目的；最后添加MPM模式到候选预测模式子集中，从而保障了编码效率和质量。本发明主要解决现有HEVC帧内预测编码计算复杂度高的问题。本发明提出的帧内预测模式决策方案实现简单，在BD-PSNR平均损失0.041dB的情况下，平均可降低36.521％的编码时间，显著提高了编码速度。

主权项

一种分级自适应的HEVC帧内预测模式快速决策方法，其中，所述方法是针对当前帧中的每个预测块(PU)执行预测模式决策的方法，其特征在于，包括以下步骤： 步骤1)采用角度均匀间隔的12个一级候选模式进行粗选计算(RMD)，确定最优预测方向所在的大方向区间； 步骤2)依据RMD计算得到的HCost代价对候选模式按升序进行排列；检查HCost代价最小的两个模式中是否存在Planar模式；如果存在Planar模式，则转入步骤3；否则转入步骤4； 步骤3)如果HCost代价最小的两个模式中存在Planar模式，则增加3个二级候选模式进行RMD粗选计算，分别为DC模式、较佳预测角度Mode_HCost 0的左右2个相邻预测模式；并依据HCost代价对所有进行过RMD计算的候选模式按升序进行排列；进入步骤5； 步骤4)如果HCost代价最小的两个模式中不存在Planar模式，则增加4个二级候选模式进行RMD粗选计算，分别为Mode_HCost 0的左右2个相邻预测模式和Mode_HCost 1的左右2个相邻预测模式；并依据HCost代价对所有进行过RMD计算的候选模式按升序进行排列；进入步骤5； 步骤5)初次确定RMD预测模式筛选结果，筛选出HCost代价最小的前N种预测模式作为粗选模式子集；具体而言，针对16×16、32×32和64×64的PU尺寸，N＝3；针对4×4和8×8的PU尺寸，N＝2+二级候选模式数目； 步骤6)采用代价自适应的提前排除法，排除部分可能性较小的候选模式；具体而言，比较粗选模式子集中各个预测模式的HCost代价大小，若其代价HCost_mode＞1.2×HCost₀，则将其排除出粗选模式子集；确定筛选后的RMD粗选模式子集； 步骤7)使用最有可能模式(MPM)方法，将当前预测块的左侧块和上方块的最佳模式作为两个最有可能模式加入粗选模式子集； 步骤8)使用率失真(RDO)方法确定最优预测模式，具体而言，对所述粗选子集中的预测模式计算率失真代价RDCost，代价最小的模式即为最终的最优预测模式。