[发明专利]H.264中P帧模式的快速选择方法

权利要求书

1.H.264中P帧模式的快速选择方法，其特征在于包括以下步骤：

1)用邻块的最终模式通过贝叶斯分类器选出当前宏块的初始候选模式集合；

2)若初始侯选模式集合是大尺寸模式集合，则执行步骤3)，若是小尺寸模式集合则转至步骤4)；

3)根据邻块的最终率失真开销，选出当前宏块的最佳帧间模式；包括：

3.1根据邻块的最终率失真开销设置阈值T1，检测当前宏块在SKIP模式下的率失真开销并与阈值T1比较，若小于T1，则将SKIP作为最佳帧间模式并转至步骤5)，否则执行步骤3.2；

3.2进一步检测当前宏块在16x16、16x8和8x16模式下的率失真开销，若率失真开销最小的模式是16x16或SKIP，则将率失真开销最小的模式作为最佳帧间模式并转至步骤5)，否则执行步骤3.3；

3.3进一步检测当前宏块在P8x8模式下的率失真开销，将所有模式中率失真开销最小的模式作为最佳帧间模式，转至步骤5)；

4)根据邻块的最终模式，选出当前宏块的最佳帧间模式；包括：

4.1根据邻块的最终模式设置阈值T2，检测当前宏块在P8x8模式下4个8x8子块的编码模式，若4个8x8子块中有大于或等于T2个子块的模式不为8x8，则将P8x8作为当前宏块的最佳帧间模式并转至步骤5)，否则执行步骤4.2；

4.2进一步检测当前宏块在各个大尺寸模式下的率失真开销，将所有模式中率失真开销最小的模式作为最佳帧间模式；

5)比较帧间模式集在给定邻块模式下的后验概率和帧内模式集在给定邻块模式下的后验概率，若前者大于后者则将所述最佳帧间模式作为当前宏块的最终模式，否则执行步骤6)；

6)判断最佳帧间模式是否是SKIP或者16x16，若是则从Intra16x16和所述最佳帧间模式间选出当前宏块的最终模式，若不是，则从Intra4x4和所述最佳帧间模式间选出当前宏块的最终模式；

其中，根据邻块的最终率失真开销设置阈值T1的方法为：若3个邻块均采用SKIP模式，则将T1设置为3个邻块最终率失真开销的最大值，否则，将T1设置为3个邻块最终率失真开销的最小值；根据邻块的最终模式设置阈值T2的方法为：若3个邻块的最终模式均为P8x8模式，则将T2设置为1，否则将T2设置为3。

2.根据权利要求1所述的H.264中P帧模式的快速选择方法，其特征在于，用邻块的最终模式通过贝叶斯分类器选出当前宏块的初始候选模式集合的方法为：将帧间模式分为大尺寸模式集合和小尺寸模式集合，分别计算两种模式集合在给定邻块模式下的后验概率，选取后验概率大的一种模式集合作为初始候选模式集合。

3.根据权利要求1或2所述的H.264中P帧模式的快速选择方法，其特征在于：所述大尺寸模式集合包括SKIP模式、16x16模式、16x8模式和8x16模式，小尺寸模式集合包括P8x8模式。