[发明专利]基于自适应阈值的AVS快速模式选择算法

摘要

本发明提供一种基于自适应阈值的AVS快速模式选择算法。算法在采用提前终止准则的同时，把自适应阈值应用在运动搜索以及模式选择过程中，针对加入B帧编码的视频序列中，P帧之间的相关性小的特点，提出了新的快速模式选择准则。当第一个参考帧中的最优块代价小于阈值时，终止搜索，否则继续对第二个参考帧搜索。其P帧宏块编码算法流程如附图所示，B帧宏块编码算法步骤和P帧类似，但是各步骤中判别准则和阈值自适应更新的法则不一样。与AVS标准参考软件RM52j中的全搜索算法相比，本发明的快速算法在保证图像质量和码率几乎不变的情况下，节省的计算量可达36.9%～78.6％，能有效地提高编码速度。

主权项

基于自适应阈值的AVS快速模式选择算法，其特征在于，快速模式选择算法中的的P帧宏块编码算法包括以下步骤：步骤1、计算SKIP模式RDCost代价；步骤2、计算16×16模式RDCost代价，运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T16×16则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算对应最优运动矢量的RDCost代价；步骤3、取SKIP模式和16×16模式的RDCost代价的min_rdcost，与自适应阈值TH _irdcost和TH _mrdcost比较，如果min_rdcost＞TH _irdcost和min_rdcost＜TH _mrdcost，则直接跳转到步骤6，否则进行步骤4；步骤4、计算16×8模式RDCost代价，每个16×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T16×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价；步骤5、计算8×16模式RDCost代价，每个8×16块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T8×16则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价；步骤6、计算8×8模式RDCost代价，每个8×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T8×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价，如果条件min_rdcost＜TH _irdcost/2成立，则跳转到步骤8，否则进行步骤7；步骤7、计算当前宏块的帧内模式编码的RDCost代价；步骤8、按公式（5）和（6）自适应更新阈值；步骤9、当前宏块编码结束；B帧宏块编码算法步骤与P帧类似，但是各步骤中判别准则和阈值自适应更新的法则不一样，在步骤8中，自适应阈值的更新改为公式（7）和（8）。