[发明专利]一种改进的H264帧内预测模式选择算法

说明书

一种改进的H.264帧内预测模式选择算法，属于图像处理领域，其特征在于采用一种改进的帧内预测模式快速选择算法。通过研究频域高频分量特征，使用训练的阈值实现对intra 4×4和intra 16×16模型的快速分离。同时，针对intra 4×4预测模式过多的问题，利用改进的Kirsh算子表征出图像的纹理方向，缩减了4×4预测模式。实验结果表明，改进的帧内预测模式快速选择算法在编码时间方面缩减了67.81%，同时PSNR与码率基本不变。解决了内预测模式选择过程中编码时间过长的问题。

技术领域

本发明应用背景为图像处理领域。发明内容涉及对图像处理过程中对图像的帧内预测模式快速选择算法进行改进，其目的在于解决帧内预测模式选择过程中编码时间过长的问题，降低编码时间，适应各种内容复杂程度不同的视频序列。

背景技术

在图像处理领域中，由于H.264帧内预测模式选择过程中存在较长编码时间，需要通过优化来降低编码时间，来适应各种内容复杂程度不同的视频序列。

目前，现有的帧内模式选择算法有基于RDO的模式选择和基于SATD的模式选择。前者在对图像的处理过程中要对图像进行重构，经变换、量化、逆量化、逆变换和重建一系列操作，工作量大，同时他只适用于高细节度的图像序列，在一些硬件平台较低和图像细节度较高的场景中不宜使用。后者虽然运算复杂度降低了，但是在预测精度上却明显降低了。

随着图像处理技术的发展，除了上述传统方法方法外，业界开始通过改进Kirsch算子来解决该问题。帧内预测快速选择算法通过高频系数特征来提取当前宏块的内部特征，从而判断出当前宏块是适用intra 4×4还是intra 16×16，解决了全搜索算法需同时对两种模型预测而造成冗余运算的缺陷，并在intra 4×4模型中利用Kirsh算子通过边缘检测很好的表征出了图像的纹理方向，解决了intra 4×4预测模式较多的问题。其中针对Kirsh算子仍存在运算量过大的问题，通过剔除不相关的4个方向和循环矩阵变换的方法，使得加法运算量相比较原算法消减了3/14，乘法运算量消减了1/8。

发明内容

为解决帧内预测模式选择过程中编码时间过长的问题，提出了一种改进的帧内预测模式快速选择算法。通过研究频域高频分量特征，使用训练的阈值实现对intra 4×4和intra 16×16模型的快速分离。同时，针对intra 4×4预测模式过多的问题，利用改进的Kirsh算子表征出图像的纹理方向，缩减了4×4预测模式。

为实现上述目的，本发明采用以下技术案：一种改进的H.264帧内预测模式选择算法，包括图像的全局搜索模块和intra 4*4预测模式选择两个部分。全局搜索模块包括高频系数的计算，intra 4*4预测模式则包括水平和垂直的平均梯度方向的计算以及根据计算出的梯度来选择合适的预测模式。

图像的全局搜索模块利用变换域的中高频系数特征来提取当前宏块的内部特征，从而判断出当前宏块是适用intra 4×4还是intra 16×16。

水平和垂直的平均梯度方向的计算，利用改进的Kirsh算子4个方向模板求解方向偏导数。根据前一步求解的4个方向偏导数求出水平和垂直方向的差分，同时统计出其方向上的差分和，利用梯度方向选择合适的预测模式。由于梯度方向垂直于图像的纹理方向，因此所求得的梯度方向需减去90°即表示为图像纹理方向。Kirsh算子通过边缘检测很好的表征出了图像的纹理方向，解决了intra 4×4预测模式较多的问题。

附图说明

图1为本发明说明书附图；

图2为本发明帧内预测模式选择算法的优化流程；

图3为本发明算法与原算法在五种不同测试序列中的三种评价标准的对比（PSNR/dB、BR/(kb/s)、ENT/s分别代表：Y分量峰值信噪比、输出码率、编码时间）；

图4为本发明算法、原算法以及FMDM算法在五种不同序列中的实验对比；