[发明专利]H.264中P帧模式的快速选择方法

摘要

一种H.264中P帧模式的快速选择方法，包括以下步骤：用邻块的最终模式通过贝叶斯分类器选出当前宏块的初始候选模式集合；若初始侯选模式集合是大尺寸模式集合，则根据邻块的最终率失真开销选出当前宏块的最佳帧间模式，若是小尺寸模式集合，则根据邻块的最终模式选出当前宏块的最佳帧间模式；利用贝叶斯学习中得到的后验概率判断帧内模式编码是否有必要进行，若没必要，则将所述最佳帧间模式作为当前宏块的最终模式，若有必要则从帧内模式和最佳帧间模式中选出最终模式。本发明方法可以很好地适应各种视频场景，同时能在获得较好编码质量的情况下大幅缩短编码所需时间。

主权项

1、H.264中P帧模式的快速选择方法，其特征在于包括以下步骤：1)用邻块的最终模式通过贝叶斯分类器选出当前宏块的初始候选模式集合；2)若初始候选模式集合是大尺寸模式集合，则执行步骤3)，若是小尺寸模式集合则转至步骤4)；3)根据邻块的最终率失真开销，选出当前宏块的最佳帧间模式；包括：3.1根据邻块的最终率失真开销设置阈值T1，检测当前宏块在SKIP模式下的率失真开销并与阈值T1比较，若小于T1，则将SKIP作为最佳帧间模式并转至步骤5)，否则执行步骤3.2；3.2进一步检测当前宏块在16×16、16×8和8×16模式下的率失真开销，若率失真开销最小的模式是16×16或SKIP，则将率失真开销最小的模式作为最佳帧间模式并转至步骤5)，否则执行步骤3.3；3.3进一步检测当前宏块在P8×8模式下的率失真开销，将所有模式中率失真开销最小的模式作为最佳帧间模式，转至步骤5)；4)根据邻块的最终模式，选出当前宏块的最佳帧间模式；包括：4.1根据邻块的最终模式设置阈值T2，检测当前宏块在P8×8模式下4个8×8子块的编码模式，若4个8×8子块中有大于或等于T2个子块的模式不为8×8，则将P8×8作为当前宏块的最佳帧间模式并转至步骤5)，否则执行步骤4.2；4.2进一步检测当前宏块在各个大尺寸模式下的率失真开销，将所有模式中率失真开销最小的模式作为最佳帧间模式；5)比较帧间模式集在给定邻块模式下的后验概率和帧内模式集在给定邻块模式下的后验概率，若前者大于后者则将所述最佳帧间模式作为当前宏块的最终模式，否则执行步骤6)；6)判断最佳帧间模式是否是SKIP或者16×16，若是则从Intra16×16和所述最佳帧间模式间选出当前宏块的最终模式，若不是，则从Intra4×4和所述最佳帧间模式间选出当前宏块的最终模式。