[发明专利]一种高清视频编码中快速帧内预测模式选择方法

摘要

本发明提出了一种高清视频编码中快速帧内预测模式选择方法。首先利用绝对误差和SAD对残差进行处理，选出误差小的几种候选预测模式。然后采用简化的率失真代价函数，即哈达码变换绝对值和SATD(Sum of Absolute Hadamard Transformed Difference)的代价函数进一步减少候选预测模式数，并且采用阈值的方式得到候选预测模式，相同大小的预测单元的候选预测模式个数也可能不相同。接着利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，检测最可能预测模式MPM(Most Probable Mode)是否包含在候选预测模式中，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式。如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则直接将进一步筛选的候选预测模式作为最终的RDO候选预测模式。最后根据拉格朗日率失真优化准则获得当前编码块的最佳帧内预测模式。

主权项

一种高清视频编码中快速帧内预测模式选择方法，其特征在于如下步骤：步骤一：分别计算当前64×64大小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式；步骤二：采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留RDO候选预测模式；所述步骤二中经过简化的率失真代价，即哈达码变换绝对值和SATD的代价函数筛选得到的候选预测模式，最终成为预测单元的最优模式的概率不是平等分布的，排在前面的预测模式成为最优预测模式的概率大于排在后面的预测模式的概率；同时，不同的预测单元，预测模式个数并不相同，因此筛选后排在前两个的预测模式是最优预测模式的概率也会不同，采用阈值的方式得到候选预测模式，当预测模式的简化率失真代价满足以下条件时，则此预测模式被认为是RDO候选预测模式，(4)式(4)中，是当前预测模式的简化率失真代价，是当前预测单元所有预测模式的简化率失真代价的最小值，T是阈值，取T＝1.2；步骤三：检测最可能预测模式MPM是否包含在步骤一所述的候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测模式作为最终的RDO候选预测模式；步骤四：计算RDO候选预测模式中所有预测模式的率失真代价RDO，将RDO值最小的预测模式选为最优预测模式；如果RDO候选预测模式中只有一个候选模式，则直接将该候选模式作为预测单元的最优预测模式；得到最优预测模式的率失真代价RdCost1；步骤五：对当前64×64大小的编码单元划分后得到的四个亚编码单元，分别计算当前得到的四个亚编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式，重复步骤二到步骤四对亚编码单元选择最优的预测模式进行编码，得到划分后的四个亚编码单元的率失真代价RDO之和RdCost2；步骤六：比较最优预测模式和亚编码单元的率失真代价RDO，即比较RdCost1和RdCost2的值，当RdCost1>RdCost2，转到步骤七；否则，采用当前64×64大小的编码单元进行预测编码，转到步骤八；步骤七：对亚编码单元进一步分成四个更小的编码单元，对进一步分成的四个更小的编码单元，分别计算当前分成的的四个更小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式，重复步骤二到步骤四对亚编码单元选择最优的预测模式进行编码，再重复步骤六，若得到的四个更小的编码单元大小为4×4时，转到步骤八；步骤八：当前编码单元预测编码结束。