[发明专利]一种AVS编码器快速帧间模式选择方法及装置

说明书

技术领域

本发明涉及数字视频编解码技术领域，尤其涉及一种AVS编码器快速帧间模式选择方法及装置。

背景技术

视频压缩技术在多媒体及其传输系统中占有重要的地位，随着多媒体技术的不断发展，高效的压缩技术成为大家研究的热点。AVS(Advanced Audio Video Coding Standard)标准是由中国数字音视频编解码技术标准工作组(简称AVS工作组)提出，具有自主知识产权的数字音视频编解码技术标准。AVS与H.264在编码性能上相当，而算法复杂度明显低于H.264，因此成为数字媒体领域里的一支极具竞争力的力量。无论对于AVS还是H.264，率失真优化(RDO)都占有举足轻重的作用。RDO是一个综合考量编码水平的指标，它对编码质量和码流大小给出了一个综合评价。一般来讲，采用RDO判据能够平均带来0.5dB左右的增益，尽管全RDO判据对编码器性能有显著的提高，但是高复杂度阻碍了其应用。通常而言，需要经过运动估计(ME)、离散余弦变换(DCT)、量化、反量化、反变换和熵编码等环路才能得到重构像素和真实的码流大小，因此RDO具有较高的运算复杂度。所以，率失真优化对编码器来说是一个不小的挑战。

对于上述问题，现有技术中一般有两类解决方法。其一是减少候选模式数；其二是简化率失真计算模型，通过近似计算D和R的方法来简化计算复杂度。然而现有的方法往往单纯从算法的角度来看待这个问题，并没有针对硬件的可实现性对算法进行改造，导致上述两类解决方案仅仅停留在理论阶段，没有太大的实际应用价值。

发明内容

本发明解决的技术问题在于如何在能够保证高率失真性能的前提下，显著降低硬件实现复杂度。

为了解决以上问题，本发明公开了一种AVS编码器快速帧间模式选择方法，包括：

步骤一、提取每个像素点的最小可分辨视觉亮度差JND，根据视觉感知判决模型提取出每个像素点的最小可分辨亮度差，此亮度差用于步骤三中计算边缘点的个数；

步骤二、计算每个像素点的梯度值，根据Sobel算子提取出每个像素点的水平和垂直梯度值，此梯度值用于步骤三中计算边缘点的个数，Sobel算子在图像处理中用于提取像素边缘信息值；

步骤三、计算边缘点个数，通过比较步骤一中得到的每个像素点的JND和步骤二中得到的每个像素点的梯度值，可以获取边缘点的个数，边缘点分为三类，分别是：宏块边缘点MLEP，水平边缘点HEP和垂直边缘点VEP；

步骤四、帧间模式选择，根据步骤三计算得到的三类边缘点的个数，可以从16x16、16x8、8x16和8x8这四种宏块划分模式中选取出最佳模式；

步骤五、确定流水线调度策略，基于快速帧间模式选择算法，采用5级流水算法，前级模式决策MD模块优先从16x16，16x8，8x16和8x8这4种模式中计算并预选出最优模式，将最优模式传递给运动估计ME模块，ME模块将计算出的direct模式和最优模式的原始像素值和预测值绝对差之和SAD和运动向量MV传递给后级MD模块，同时，后级MD模块从帧内预测IP模块获取intra模式的预测值，根据计算得到3个候选模式的率失真代价，比较各种模式的率失真代价，选取率失真最小的模式为最终的最优模式。

进一步，作为一种优选，所述提取每个像素点的最小可分辨视觉亮度差JND包括：判决当前编码帧类型，如果当前编码帧为I帧，则跳过不处理；如果当前编码帧为P、B帧，则根据视觉感知判决模型提取出像素点的JND。

进一步，作为一种优选，所述计算每个像素点的梯度值包括：通过Sobel算子分别提取出每个像素点的水平梯度值和垂直梯度值。

进一步，作为一种优选，所述计算边缘点个数包括：根据已求出的每个像素点的JND及其水平梯度值和垂直梯度值，分别统计宏块边缘点个数，水平边缘点HEP个数和垂直边缘点VEP个数，所述的统计宏块边缘个数，具体步骤为：比较计算出的每个像素点的JND和水平梯度值的大小，以及JND和垂直梯度值的大小，如果像素点的水平梯度值大于JND，或者垂直梯度值大于JND，则此像素点为一个宏块边缘点MLEP。所述的统计水平边缘点个数，具体步骤为：比较计算出的每个像素点的JND和水平梯度值的大小以及JND和垂直梯度值的大小，如果像素点的水平梯度值大于JND，并且垂直梯度值小于等于JND，则此像素点为一个水平边缘点HEP，所述的统计垂直边缘点个数，具体步骤为：比较计算出的每个像素点的JND和水平梯度值的大小以及JND和垂直梯度值的大小，如果像素点的垂直梯度值大于JND，并且水平梯度值小于等于JND，则此像素点为一个垂直边缘点VEP。