[发明专利]一种高清视频编码中快速帧内预测模式选择方法

权利要求书

1.一种高清视频编码中快速帧内预测模式选择方法，其特征在于如下步骤：

步骤一：分别计算当前64×64大小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式；

步骤二：采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留RDO候选预测模式；所述步骤二中经过简化的率失真代价，即哈达码变换绝对值和SATD的代价函数筛选得到的候选预测模式，最终成为预测单元的最优模式的概率不是平等分布的，排在前面的预测模式成为最优预测模式的概率大于排在后面的预测模式的概率；同时，不同的预测单元，预测模式个数并不相同，因此筛选后排在前两个的预测模式是最优预测模式的概率也会不同，采用阈值的方式得到候选预测模式，当预测模式的简化率失真代价满足以下条件时，则此预测模式被认为是RDO候选预测模式，(4)

式(4)中，是当前预测模式的简化率失真代价，是当前预测单元所有预测模式的简化率失真代价的最小值，T是阈值，取T＝1.2；

步骤三：检测最可能预测模式MPM是否包含在步骤一所述的候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测模式作为最终的RDO候选预测模式；

步骤四：计算RDO候选预测模式中所有预测模式的率失真代价RDO，将RDO值最小的预测模式选为最优预测模式；如果RDO候选预测模式中只有一个候选模式，则直接将该候选模式作为预测单元的最优预测模式；得到最优预测模式的率失真代价RdCost1；

步骤五：对当前64×64大小的编码单元划分后得到的四个亚编码单元，分别计算当前得到的四个亚编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式，重复步骤二到步骤四对亚编码单元选择最优的预测模式进行编码，得到划分后的四个亚编码单元的率失真代价RDO之和RdCost2；

步骤六：比较最优预测模式和亚编码单元的率失真代价RDO，即比较RdCost1和RdCost2的值，当RdCost1>RdCost2，转到步骤七；否则，采用当前64×64大小的编码单元进行预测编码，转到步骤八；

步骤七：对亚编码单元进一步分成四个更小的编码单元，对进一步分成的四个更小的编码单元，分别计算当前分成的的四个更小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式，重复步骤二到步骤四对亚编码单元选择最优的预测模式进行编码，再重复步骤六，若得到的四个更小的编码单元大小为4×4时，转到步骤八；

步骤八：当前编码单元预测编码结束。

2.根据权利要求1所述一种高清视频编码中快速帧内预测模式选择方法，其特征在于：处理的视频序列为YUV格式，对亮度分量的帧内预测采用上述八个步骤进行处理。

3.根据权利要求1所述一种高清视频编码中快速帧内预测模式选择方法，其特征在于：所述步骤二中简化的率失真代价，即哈达码变换绝对值和SATD的代价函数为：

J_SATD＝SATD+λ_mode·B_mode(1)

其中SATD是对预测残差进行Hadamard变换后，得到残差的绝对值总和，即：

SATD=(Σx,y|DiffHAD(x,y)|)/2]]>

其中，Diff(x,y)＝Orig(x,y)-Pred(x,y)，Orig(x,y)和Pred(x,y)分别为编码单元原始像素值和预测像素值，Diff(x,y)为原始与预测像素值的残差，DiffHAD(x,y)表示对预测残差进行Hadamard变换；

λ_mode是拉格朗日因子，使用如下公式计算：

λ_mode＝0.57×2^((QP-12)3.0)(3)

其中，QP是量化单元的量化参数；

B_mode是记录的帧内模式在码流传输中所需要的比特数。