[发明专利]基于自适应阈值的AVS快速模式选择算法

权利要求书

1.基于自适应阈值的AVS快速模式选择算法，其特征在于，快速模式选择算法中的的P帧宏块编码算法包括以下步骤：

步骤1、计算SKIP模式RDCost代价；

步骤2、计算16×16模式RDCost代价，运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T_16×16则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算对应最优运动矢量的RDCost代价；

步骤3、取SKIP模式和16×16模式的RDCost代价的min_rdcost，与自适应阈值TH _irdcost和TH _mrdcost比较，如果min_rdcost＞TH _irdcost和min_rdcost＜TH _mrdcost，则直接跳转到步骤6，否则进行步骤4；

步骤4、计算16×8模式RDCost代价，每个16×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T_16×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价；

步骤5、计算8×16模式RDCost代价，每个8×16块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T_8×16则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价；

步骤6、计算8×8模式RDCost代价，每个8×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T_8×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价，如果条件min_rdcost＜TH _irdcost/2成立，则跳转到步骤8，否则进行步骤7；

步骤7、计算当前宏块的帧内模式编码的RDCost代价；

步骤8、按公式（5）和（6）自适应更新阈值；

步骤9、当前宏块编码结束；

B帧宏块编码算法步骤与P帧类似，但是各步骤中判别准则和阈值自适应更新的法则不一样，在步骤8中，自适应阈值的更新改为公式（7）和（8）。

2.根据权利要求1所述的基于自适应阈值的AVS快速模式选择算法，其特征是：对每一种预测模式按照式（1）计算代价：

      （1）

其中R表示残差块经过熵编码后得到的码长，λ是与量化参数相关的率失真参数，SSD表示原始块与重构块之间的误差均方和，按照式（2）计算，即：

      （2）

其中重构块元素值f_RDO（x, y）需要对残差块经过变化→量化→反量化→反变换过程后再与预测块相加得到，最终选择代价最小的预测模式作为当前宏块编码的预测模式。

3.根据权利要求1所述的基于自适应阈值的AVS快速模式选择算法，其特征是：阈值T的计算公式为：

        （4）。

4.根据权利要求1所述的基于自适应阈值的AVS快速模式选择算法，其特征是：公式（5）和（6）的表达式为：

     （5）

      （6）。

5.在权利要求1所述的基于自适应阈值的AVS快速模式选择算法，其特征是：公式（7）和（8）的表达式为：

     （7）

     （8）。