[发明专利]一种AVS编码器快速帧间模式选择方法及装置

摘要

本发明公布了一种AVS编码器快速帧间模式选择方法，包括：采用视觉感知判决模型和像素点边缘信息从16x16模式、16x8模式、8x16模式和8x8模式中预先选择出最优模式；便于硬件实现的快速帧间模式选择算法，突破帧间模式选择数据依赖，使帧间模式选择无需等待相关的重构数据，成为高效无中断模式选择流水线实现的前提；设计面向硬件可实现的高效率计算率失真代价的5级流水算法，使基于率失真代价的帧间模式选择实际硬件应用推广成为可能；最后，根据预选最优模式、direct模式和intra模式这三种候选模式的带价值确定最优模式。本发明还公布一种AVS帧间模式选择装置，显著提高了硬件编码器的编码性能。

主权项

一种AVS编码器快速帧间模式选择方法，其特征在于，包括：步骤一、提取每个像素点的最小可分辨视觉亮度差JND，根据视觉感知判决模型提取出每个像素点的最小可分辨亮度差，此亮度差用于步骤三中计算边缘点的个数；步骤二、计算每个像素点的梯度值，根据Sobel算子提取出每个像素点的水平和垂直梯度值，此梯度值用于步骤三中计算边缘点的个数，Sobel算子在图像处理中用于提取像素边缘信息值；步骤三、计算边缘点个数，通过比较步骤一中得到的每个像素点的JND和步骤二中得到的每个像素点的梯度值，可以获取边缘点的个数，边缘点分为三类，分别是：宏块边缘点MLEP，水平边缘点HEP和垂直边缘点VEP；步骤四、帧间模式选择，根据步骤三计算得到的三类边缘点的个数，可以从16x16、16x8、8x16和8x8这四种宏块划分模式中选取出最佳模式；步骤五、确定流水线调度策略，基于快速帧间模式选择算法，采用5级流水算法，前级模式决策MD模块优先从16x16，16x8，8x16和8x8这4种模式中计算并预选出最优模式，将最优模式传递给运动估计ME模块，ME模块将计算出的direct模式和最优模式的原始像素值和预测值绝对差之和SAD和运动向量MV传递给后级MD模块，同时，后级MD模块从帧内预测IP模块获取intra模式的预测值，根据计算得到3个候选模式的率失真代价，比较各种模式的率失真代价，选取率失真最小的模式为最终的最优模式。