[发明专利]一种帧内模式选取方法、装置及一种编码器

说明书

技术领域

本发明涉及编解码技术，特别是涉及一种帧内模式选取方法、装置及一种编码器。

背景技术

在视频编码H.264标准的帧内预测中，可以通过帧内模式预测技术，预先对待编码块的帧内模式做出预测，预测得到的帧内模式称为最有可能模式。当最有可能模式与通过计算得到的最优预测模式不同时，在码流中一共需要向解码端传送4比特的编码模式信息，其中，1比特表示最有可能模式与最优预测模式是否相同的标志位，3比特表示最优预测模式的模式序号；当最有可能模式与通过计算得到的最优预测模式相同时，则在码流中只需要向解码端传送1比特的标志位信息即可，此时编码所用的码字比最有可能模式与最优预测模式不同时减少了很多。

目前确定最有可能模式的方式是：

根据待编码块相邻上块和相邻左块的最优预测模式，将相邻上块和相邻左块的最优预测模式中模式序号小的定义为待编码块的最有可能模式。例如：假设相邻上块的最优预测模式是模式1，相邻左块的最优预测模式是模式3，则当前待编码块的最有可能模式为模式1。作为参考块的相邻上块和相邻左块中，有至少一个不可用时，例如：在当前条带外或不是基于4×4块预测方式时，规定当前待编码块的最有可能模式为模式2。

目前计算最优预测模式的方式是：

H.264标准中的亮度帧内预测技术分为对4×4块和对16×x16块两种，H.264标准针对4×4的块提供了9种预测编码模式供选择，而针对16×16的块提供了4种预测编码模式。计算最优预测模式的方法是：分别对每个4×4的块计算9种预测编码模式的率失真代价，针对每一个4×4的块选择率失真代价最小的模式作为这个4×4块的最优预测模式；计算16×16块的4种预测编码模式的率失真代价，选择率失真代价最小的模式作为这个16×16块的最优预测模式；然后比较16个4×4块的率失真代价之和与16×16块的率失真代价，选择率失真代价最小的分块模式作为当前宏块的最终编码方式。

由上述计算最优预测模式的方法可以看出，帧内预测的复杂度主要是在计算每种分块的所有预测编码模式的率失真代价上面，如对于一个4×4的块，要计算9种不同帧内预测编码模式中16个像素点的率失真代价，复杂度很高。因此，上述最优预测模式的计算影响了帧内预测的速度，进而影响了编码效率。

发明内容

本发明所要解决的技术问题是提供一种帧内模式选取方法、装置及一种编码器，以解决现有的帧内预测复杂度高，影响编码效率的问题。

为了解决上述问题，本发明公开了一种帧内模式选取方法，包括：

对待编码宏块内的全部16个4×4块，分别确定每个4×4块的最优预测模式及对应的代价；

将16个4×4块的代价相加，如果相加之和小于第一预置阈值，则直接选择16个4×4块的模式作为待编码宏块的最优预测模式；

否则，将所述16个4×4块的代价相加之和与16×16预测模式的代价进行比较，并选择代价小的模式作为待编码宏块的最优预测模式。

优选的，所述分别确定每个4×4块的最优预测模式及对应的代价，包括：如果当前4×4块为图像左上角的块，则该块的最优预测模式为直流模式；如果当前4×4块为图像左边缘的块，则对该块中所有16个像素分别计算竖直模式和直流模式两种模式下的代价，并选择代价小的模式作为当前4×4块的最优预测模式；如果当前4×4块为图像上边缘的块，则对该块中所有16个像素分别计算水平模式和直流模式两种模式下的代价，并选择代价小的模式作为当前4×4块的最优预测模式。

优选的，所述分别确定每个4×4块的最优预测模式及对应的代价，还包括：如果当前4×4块不是左边缘或上边缘的块，则将该块中所有16个像素分为三组，第一组包含左上角、左下角、右上角、右下角4个像素，第二组包含块中心的4个像素，第三组包含块中剩余的8个像素；对第一组和第二组像素计算最有可能模式下的代价，如果该代价小于第二预置阈值，则选择最有可能模式作为当前4×4块的最优预测模式；否则，先对第一组像素分别计算竖直模式、水平模式、左对角线模式和右对角线模式下的代价，并选择代价最小的模式及其方向上相邻的两个模式；然后，对该块中所有16个像素分别计算所选择的三个模式以及竖直模式、水平模式、直流模式下的代价，如果最小的代价小于第三预置阈值，则选择代价最小的模式作为当前4×4块的最优预测模式；否则，对该块中所有16个像素分别计算9种4×4预测模式中剩余模式下的代价，并选择9种4×4预测模式下代价最小的模式作为当前4×4块的最优预测模式。