[发明专利]一种复杂度可分级的帧内预测方法

摘要

本发明公开了一种复杂度可分级的帧内预测方法，利用其相邻块与当前编码图像块的纹理相关性，定义图像块及其参考相邻块的位置关系映射图；对边缘图像块直接指定其预测模式，然后作预测模式处理确定最优预测模式，并按此模式对图像块进行编码；对中心图像块则根据参考相邻块的有效预测模式确定当前图像块的可选预测模式，然后作预测模式处理确定局部最优预测模式；然后根据当前编码器的计算能力冗余度，再次确定当前图像块的可选预测模式，确定最终的最优预测模式，并按此模式对图像块进行编码。本发明可实现帧内预测最优模式的快速选择，并实现对帧内预测复杂度准确的控制。

主权项

1、一种复杂度可分级的帧内预测方法，其步骤包括步骤(1)：定义图像块及其参考相邻块的位置关系映射图，其中参考相邻块为左上块、上边块、右上块、左边块和左下块；设置复杂度限制变量CL，CL为整数，取值范围为1至9，令计算能力冗余变量CR＝0；步骤(2)：判断当前图像块在当前帧内的位置，并令模式计数器变量MC＝0；如果当前图像块为上边缘或左边缘块，即边缘块时，则进入步骤(3)进行处理；否则，则进入步骤(4)进行处理；步骤(3)：边缘块的处理：步骤(3.1)：确定边缘块的可选预测模式并统计其个数：对一帧图像左上角的第一个图像块，可选预测模式为模式2；对上边缘的其它图像块，其可选预测模式为模式1、模式2和模式8；对于左边缘的其它图像块，对于H.264标准，其可选预测模式为模式0、模式2，模式3和模式7；对于AVS标准，其可选预测模式为模式0、模式2和模式7；然后，令变量CR＝CR+可选预测模式个数；步骤(3.2)：在边缘块的可选预测模式中，对每一个选定的预测模式，进行“预测模式处理”，同时令MC＝MC+1，CR＝CR-1；以率失真代价值最小的模式作为当前边缘块的最优预测模式，并以最优预测模式对当前图像块进行最终编码，并生成码流；转到步骤(2)进入下一个图像块，直至一帧图像中所有图像块编码结束；步骤(4)：中心块的处理：步骤(4.1)：在参考相邻块中以其有效预测模式作为中心块的可选预测模式，如果参考相邻块的最优预测模式在0至8的范围内，则该最优预测模式为当前中心块的有效预测模式，并以该模式作为当前中心块的可选预测模式，并规定模式2恒为中心块的一个可选预测模式，并令CR＝CR+CL；步骤(4.2)：在中心块的可选预测模式中，对每一个选定的预测模式进行“预测模式处理”，令MC＝MC+1，CR＝CR-1，再选定局部最优预测模式；如果变量CR＞0，则转到步骤(4.3)；否则以局部最优预测模式对当前图像块进行最终编码，并生成码流，结束当前图像块的处理，进入下一图像块，转到步骤(2)；步骤(4.3)：根据局部最优预测模式，确定新的可选预测模式：如果CR+MC≥9，则规定所有8种有方向的预测模式为新的可选预测模式，然后进入步骤(4.4)；否则进行如下操作：如果局部最优预测模式为有方向的预测模式2，则选择模式0、模式1、模式3和模式4为当前图像块新的可选预测模式；对无方向的局部最优预测模式，则根据H.264或AVS规定的预测方向，采用其最相邻的两个方向预测模式为新增的可选预测模式；步骤(4.4)：在新增的可选预测模式集合中，如果某一预测模式已经在步骤(4.2)中处理过，则从集合中去掉该模式，然后在剩下的可选预测模式集合中，对每一种预测模式进行“预测模式处理”，并结合步骤(4.2)中的最小率失真代价值，选择所有率失真代价值中最小值对应的预测模式作为最终的最优预测模式，并以最优预测模式对当前图像块进行最终编码，并生成码流，结束当前图像块的操作；然后转到步骤(2)进入下一个图像块，直至一帧图像中所有图像块编码结束；其中，“预测模式处理”的步骤为：(a)、根据该模式规定的预测方法，采用当前图像块的左邻块和上邻块的像素值对当前图像块的所有像素值进行预测；(b)、计算原始像素值和预测值之间的差值，得到当前图像块的残差图像；(c)、对残差图像块进行整数变换和量化；(d)、对计算量化后的变换系数进行熵编码，得到对应的码率；(e)、进行反量化和反变换，得到重建的图像块；(f)、计算原始图像块和重建图像块之间的失真；(g)、结合当前图像块的码率和失真，计算当前图像块在当前预测模式下的率失真代价值。