[发明专利]基于自适应代价分数阈值的帧内预测模式判决方法和系统

权利要求书

1.一种基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，包括：

步骤1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS₁，并计算CS₁中各模式的预测代价；

步骤2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；

步骤3：使用自适应代价分数阈值降低计算率失真代价的模式数量；

步骤4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测；

所述步骤2包括：采用分层模式判决框架，使用由粗略到精细的搜索方法，对于搜索层级i，在2≤i≤5时，候选模式集包含的具体模式如下式所示：

FPM_i表示在候选模式集CS_i-1中预测代价最小的角度模式的模式号；SPM_i表示在候选模式集CS_i-1中预测代价第二小的角度模式的模式号；DC表示帧内预测的非角度预测模式，是一种H.266规定的适用于大面积平坦区域的特定预测模式；PLANAR表示帧内预测的非角度预测模式，是一种H.266规定的适用于像素渐变情况的特定预测模式。

2.根据权利要求1所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，所述初始候选模式集CS₁为：CS₁{2,10,18,26,34,42,50,58,66}；

预测代价的计算公式为：

Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)

其中，Cost表示帧内预测模式判决过程粗选时使用的预测代价，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数。

3.根据权利要求1所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，在每层级中利用自适应代价分数阈值α_i缩减候选模式集，通过将FPM_i-1的预测代价除以SPM_i-1的预测代价得到的商作为本层级的代价分数，若代价分数小于与i的大小以及当前编码单元的尺寸相关的代价分数阈值α_i，则仅使用FPM_i-1及其临近角度模式构造本层级的候选模式集，如下式所示：

4.根据权利要求1所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，所述步骤3包括：通过率失真代价对候选模式集进行精选，选取率失真代价最低的模式为最优预测模式，在VTM帧内预测中粗糙模式判决之后，进行多参考行、最可能模式、帧内子块划分和矩阵加权帧内预测，最终获得候选模式列表与相应的预测代价列表；

列表排序按照预测代价从小到大的顺序，通过计算每个模式的预测代价与列表首个模式的预测代价的商作为代价分数，若代价分数小于自适应代价分数阈值β，则跳过当前与后续模式的率失真代价计算。