[发明专利]一种AVS编码器快速帧间模式选择方法及装置

权利要求书

1.一种AVS编码器快速帧间模式选择方法，其特征在于，包括：

步骤一、提取每个像素点的最小可分辨视觉亮度差JND，根据视觉感知判决模型提取出每个像素点的最小可分辨亮度差，此亮度差用于步骤三中计算边缘点的个数；

步骤二、计算每个像素点的梯度值，根据Sobel算子提取出每个像素点的水平和垂直梯度值，此梯度值用于步骤三中计算边缘点的个数，Sobel算子在图像处理中用于提取像素边缘信息值；

步骤三、计算边缘点个数，通过比较步骤一中得到的每个像素点的JND和步骤二中得到的每个像素点的梯度值，可以获取边缘点的个数，边缘点分为三类，分别是：宏块边缘点MLEP，水平边缘点HEP和垂直边缘点VEP；

步骤四、帧间模式选择，根据步骤三计算得到的三类边缘点的个数，可以从16x16、16x8、8x16和8x8这四种宏块划分模式中选取出最佳模式；

步骤五、确定流水线调度策略，基于快速帧间模式选择算法，采用5级流水算法，前级模式决策MD模块优先从16x16，16x8，8x16和8x8这4种模式中计算并预选出最优模式，将最优模式传递给运动估计ME模块，ME模块将计算出的direct模式和最优模式的原始像素值和预测值绝对差之和SAD和运动向量MV传递给后级MD模块，同时，后级MD模块从帧内预测IP模块获取intra模式的预测值，根据计算得到3个候选模式的率失真代价，比较各种模式的率失真代价，选取率失真最小的模式为最终的最优模式。

2.根据权利要求1所述的一种AVS编码器快速帧间模式选择方法，其特征在于，所述提取每个像素点的最小可分辨视觉亮度差JND包括：判决当前编码帧类型，如果当前编码帧为I帧，则跳过不处理；如果当前编码帧为P、B帧，则根据视觉感知判决模型提取出像素点的JND。 

3.根据权利要求书1所述的一种AVS编码器快速帧间模式选择方法，其特征在于，所述计算每个像素点的梯度值包括：通过Sobel算子分别提取出每个像素点的水平梯度值和垂直梯度值。

4.根据权利要求书1所述的一种AVS编码器快速帧间模式选择方法，其特征在于，所述计算边缘点个数包括：根据已求出的每个像素点的JND及其水平梯度值和垂直梯度值，分别统计宏块边缘点个数，水平边缘点HEP个数和垂直边缘点VEP个数，所述的统计宏块边缘个数，具体步骤为：比较计算出的每个像素点的JND和水平梯度值的大小，以及JND和垂直梯度值的大小，如果像素点的水平梯度值大于JND，或者垂直梯度值大于JND，则此像素点为一个宏块边缘点MLEP。所述的统计水平边缘点个数，具体步骤为：比较计算出的每个像素点的JND和水平梯度值的大小以及JND和垂直梯度值的大小，如果像素点的水平梯度值大于JND，并且垂直梯度值小于等于JND，则此像素点为一个水平边缘点HEP，所述的统计垂直边缘点个数，具体步骤为：比较计算出的每个像素点的JND和水平梯度值的大小以及JND和垂直梯度值的大小，如果像素点的垂直梯度值大于JND，并且水平梯度值小于等于JND，则此像素点为一个垂直边缘点VEP。

5.根据权利要求书1所述的一种AVS编码器快速帧间模式选择方法，其特征在于，所述帧间模式选择步骤为：首先，判断统计出的MLEP是否小于等于10，如果MLEP小于10，选择16x16模式为最佳帧间模式；其次，判断统计出的MLEP是否大于10并且小于等于128，如果MLEP大于10并且小于等于128，则最佳模式从16x8和8x16这两种模式之间选择；最后，判断统计出的MLEP是否大于128，如果MLEP大于128，则最佳模式为8x8；对于MLEP介于10和128之间的情况，此时需要判断HEP和VEP的大小；如果HEP大于VEP，则最佳模式为16x8；如果VEP大于HEP，则最佳模式为8x16。 

6.根据权利要求书1所述的一种AVS编码器快速帧间模式选择方法，其特征在于，所述确定流水线调度策略步骤为：基于快速帧间模式选择算法，采用5级流水算法，前级模式决策MD预判模块优先从16x16，16x8，8x16和8x8这4种模式中计算出最优模式，并将最优模式传递给ME模块，ME模块将计算出的direct模式和最优模式的RDO传递给后级MD模块，同时，后级MD模块从帧内预测IP模块获取intra模式的预测值。根据计算得到的3个候选模式的率失真代价，比较各种模式的率失真代价，选取率失真最小的模式为最终的最优模式。