[发明专利]一种帧内模式选取方法、装置及一种编码器

权利要求书

1.一种帧内模式选取方法，其特征在于，包括：

对待编码宏块内的全部16个4×4块，分别确定每个4×4块的最优预测模式及对应的代价；

将16个4×4块的代价相加，如果相加之和小于第一预置阈值，则直接选择16个4×4块的模式作为待编码宏块的最优预测模式；

否则，将所述16个4×4块的代价相加之和与16×16预测模式的代价进行比较，并选择代价小的模式作为待编码宏块的最优预测模式。

2.根据权利要求1所述的方法，其特征在于，所述分别确定每个4×4块的最优预测模式及对应的代价，包括：

如果当前4×4块为图像左上角的块，则该块的最优预测模式为直流模式；

如果当前4×4块为图像左边缘的块，则对该块中所有16个像素分别计算竖直模式和直流模式两种模式下的代价，并选择代价小的模式作为当前4×4块的最优预测模式；

如果当前4×4块为图像上边缘的块，则对该块中所有16个像素分别计算水平模式和直流模式两种模式下的代价，并选择代价小的模式作为当前4×4块的最优预测模式。

3.根据权利要求2所述的方法，其特征在于，所述分别确定每个4×4块的最优预测模式及对应的代价，还包括：

如果当前4×4块不是左边缘或上边缘的块，则将该块中所有16个像素分为三组，第一组包含左上角、左下角、右上角、右下角4个像素，第二组包含块中心的4个像素，第三组包含块中剩余的8个像素；

对第一组和第二组像素计算最有可能模式下的代价，如果该代价小于第二预置阈值，则选择最有可能模式作为当前4×4块的最优预测模式；

否则，先对第一组像素分别计算竖直模式、水平模式、左对角线模式和右对角线模式下的代价，并选择代价最小的模式及其方向上相邻的两个模式；然后，对该块中所有16个像素分别计算所选择的三个模式以及竖直模式、水平模式、直流模式下的代价，如果最小的代价小于第三预置阈值，则选择代价最小的模式作为当前4×4块的最优预测模式；

否则，对该块中所有16个像素分别计算9种4×4预测模式中剩余模式下的代价，并选择9种4×4预测模式下代价最小的模式作为当前4×4块的最优预测模式。

4.根据权利要求1所述的方法，其特征在于，所述将16个4×4块的代价相加之和与16×16预测模式的代价进行比较，并选择代价小的模式作为待编码宏块的最优预测模式，包括：

统计16个4×4块的最优预测模式中竖直模式和水平模式的数量，选择数量多的模式作为16x16块的待选模式；

计算所述待选模式的代价，如果该代价大于或等于16个4×4块的代价之和，则选择16个4×4块的模式作为待编码宏块的最优预测模式；

否则，计算其余3种16x16预测模式的代价，并与16个4×4块的代价之和进行比较，选择代价最小的模式作为待编码宏块的最优预测模式。

5.根据权利要求1或3所述的方法，其特征在于：

所述第一预置阈值取多次计算宏块内16个4x4块代价之和的均值或最小值；

所述第二预置阈值取多次计算第一组和第二组像素在最有可能模式下的代价的均值或最小值；

所述第三预置阈值取多次计算最优预测模式的代价的均值或最小值。

6.根据权利要求1所述的方法，其特征在于：

所述代价是通过计算率失真代价得到，或者是通过计算预测残差的绝对误差和得到。

7.一种帧内模式选取装置，其特征在于，包括：

4×4模式选取单元，用于对待编码宏块内的全部16个4×4块，分别确定每个4×4块的最优预测模式及对应的代价；

比较单元，用于将16个4×4块的代价相加，如果相加之和小于第一预置阈值，则直接选择16个4×4块的模式作为待编码宏块的最优预测模式；

16×16模式选取单元，用于当所述相加之和大于或等于第一预置阈值时，将所述16个4×4块的代价相加之和与16×16预测模式的代价进行比较，并选择代价小的模式作为待编码宏块的最优预测模式。