[发明专利]一种基于运动向量的H.264基本档次帧内模式选择方法

权利要求书

1.一种基于运动向量的H.264基本档次帧内模式选择方法，包括下列步骤：

1)对I帧或P帧进行判断：在I帧的情况下，进行传统的帧内预测编码，编码完成后把当前宏块包含的模式信息写入参考模式表中，直到所有宏块编码完成；

2)在P帧的情况下，编码器先进行帧间预测，得到最佳运动向量，再根据运动向量通过查询参考模式表获取当前宏块及包含子块的模式字段iMode；

3)进行16×16预测，通过iMode得到参考模式进而确定候选预测模式，对候选预测模式进行率失真优化运算，得到率失真代价最小的模式即为最优16×16预测模式；

4)进行4×4预测，通过iMode得到参考模式进而确定候选预测模式，对候选预测模式进行率失真优化运算，得到率失真代价最小的模式即为最优4×4预测模式；

5)对比最优16×16预测模式和最优4×4预测模式的率失真代价，得出最优宏块预测模式；

6)更新参考模式表，将上述当前宏块的预测模式写入目标表的对应字段中，供下一帧预测使用。

2.根据权利要求1所述的方法，其特征在于，所描述算法只适用于H.264标准(ISO/IEC 14496-10)的基本档次(Baseline profile)。

3.根据权利要求1所述的方法，其特征在于，所述步骤1)中的参考模式表为该算法特有的数据结构，目的是以4×4子块为单位存储上一帧的帧内预测模式，该表包含以下结构：

1)表头信息：包含行子块总数xCount和列子块总数yCount，长度共4Byte；

2)预测模式信息：包含每个子块的坐标信息和预测信息，坐标信息占用4Byte，模式信息1Byte，每个子块字段共5Byte；

3)子块字段总数由编码图像大小确定，可有表头信息xCount×yCount得出。

4.根据权利要求3所述的数据结构，其特征在于，所述结构部分2)中所描述的1Byte模式信息组成结构：

1)最高比特位：0表示该子块为采用4×4预测模式的独立子块，1表示该子块所属宏块采用16×16预测模式；

2)0-6比特位为帧内预测模式编号，其中4×4预测模式为0-8，16×16预测模式为0-3。

5.根据权利要求4所述的数据结构，其特征在于，所述结构部分2)所描述的帧内预测模式编号为H.264标准定义的帧内预测模式编号。

6.根据权利要求1所述的方法，其特征在于，所述步骤2)描述的运动向量是针对当前编码帧前面一帧的运动向量，在开启多参考帧模式的情况下可能不是针对最优参考帧的运动向量。

7.根据权利要求1所述的方法，其特征在于，所述步骤2)描述的模式字段iMode即权利要求4中所述的1Byte模式信息。

8.根据权利要求1所述的方法，其特征在于，所述步骤3)描述的根据参考模式得出候选模式的过程为：

1)如果参考模式编号为0、5、7中任意一种，16×16的候选模式编号为0、2、3；

2)如果参考模式编号为1、6、8中任意一种，16×16的候选模式编号为1、2、3；

3)如果参考模式编号为2，16×16的候选模式编号为2、3；

4)如果参考模式编号为3、4，16×16的候选模式编号为0、1、2、3。

9.根据权利要求1所述的方法，其特征在于，所述步骤4)描述的根据参考模式得出候选模式的过程为：

1)如果参考模式为0，则4×4候选模式编号为7、0、5、2；

2)如果参考模式为1，则4×4候选模式编号为1、2、6、8；

3)如果参考模式为2，则4×4候选模式为所有9种4×4预测模式；

4)如果参考模式为3，则4×4候选模式编号为2、3、7、8；

5)如果参考模式为4，则4×4候选模式编号为2、4、5、6；

6)如果参考模式为5，则4×4候选模式编号为1、2、4、5；

7)如果参考模式为6，则4×4候选模式编号为1、2、5、6；

8)如果参考模式为7，则4×4候选模式编号为0、2、5、7；

9)如果参考模式为8，则4×4候选模式编号为1、2、6、8。