[发明专利]HEVC帧内角度模式选择方法、装置、设备及可读存储介质

说明书

本发明属于视频编码领域，公开了一种HEVC帧内角度模式选择方法、装置、设备及可读存储介质，所述HEVC帧内角度模式选择方法包括获取学习视频帧图像，划分为若干PU图像；构建深度卷积神经网络，从PU图像上学习预测出当前PU图像的最佳角度模式，得到深度卷积神经网络预测模型，将深度卷积神经网络预测模型嵌入到HEVC原始的编码流程中，通过深度卷积神经网络预测模型直接得到最佳的角度模式的n种模式候选列表，替代视频帧图像编码时的35类角度模式。本方法将深度卷积神经网络引入到HEVC视频编码中，从原始输入视频帧图像上学习适合解决PU角度模式选择的问题，能够保证视频编码的质量，较好的解决视频编码过程中时间较长的问题。

技术领域

本发明属于视频编码领域，涉及一种HEVC帧内角度模式选择方法、装置、设备及可读存储介质。

背景技术

新一代高效视频编码HEVC(High Efficiency Video Coding)是最新的视频编码标准，帧内角度模式选择算法就是通过选择最佳的角度模式，使视频编码后的编码失真最小。HEVC中，一幅视频图像首先被划分成若干个相互不重叠的编码树单元(Coding TreeUnit，CTU)，然后对CTU对应的预测块(Prediction Unit，PU)进行帧内预测的35种角度模式全搜索，对于大小为64×64的预测块找出相应的最优率失真(Rate Distortion，RD)代价值RdCost_0及其对应的预测模式，对于4个大小为32×32的PU分别计算出其对应的最优率失真代价值RdCost_1、RdCost_2、RdCost_3和RdCost_4及其各自对应的预测模式，然后对四个PU对应的最优率失真代价值求和得RdCost_5。比较RdCost_0和RdCost_5的值，如果前者小则不对当前编码块(Coding Unit，CU)继续划分，否则把当前CU继续划分为四个子CU，在这个过程中，每次都会计算不同大小PU的35种角度模式，过程繁琐，计算量过大。

近年来，深度卷积神经网络(ConvolutionalNeuralNetwork，CNN)在图像分析、语音识别和自然语言处理方面取得巨大成功，如果能通过深度学习对HEVC帧内角度模式进行预测，就可以大大减少编码复杂度。当前HEVC中角度模式预测主要是通过减少粗略模式选择个数或者模式侯选列表中的个数进行优化，而不是直接通过某种算法得到最佳的角度模式预测值。机器学习是人工智能的一个分支，机器学习就是通过算法，使得机器能从大量历史数据中学习规律，从而对新的样本做智能识别或对未来做预测。其中深度学习的概念源于人工神经网络的研究。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。在2012年的ImageNet竞赛上，Hinton和Alex设计的AlexNet网络一举拿到冠军后，深度学习在图片分类上的应用更加广泛。现有的角度模式选择算法已经取得了很多成果，但将深度学习应用到角度模式选择算法中有待进一步的研究。

目前，常见的方式有以下几种。一种快速帧内模式决策算法，通过使用基于梯度的方法来减少粗略模式决策和RD优化的候选模式，从而降低HEVC帧内计算复杂度。该方法的优点是降低了帧内编码复杂度，但是整体降低的幅度不大，有待进一步的提升，最终也是通过粗略模式选择得到需要进行RD优化的候选模式。还有一种HEVC编码器的快速帧内模式决策，通过基于Hadamard成本的渐进式粗略模式搜索(Progressive Rough Mode Search，pRMS)来选择性地检查潜在模式而不是遍历所有候选者，即35种角度模式。pRMS将选择较少的有效候选者用于随后的率失真优化量化(Rate Distortion OptimizationQuantification,RDOQ)以导出率失真最佳模式。以此来降低编码复杂性。该方法的优点是对于35种角度模式，是选择性的进行遍历，能够提升编码效率，缺点是还是保持减少遍历的思维，没有最有效的达到压缩编码效率的目的。

发明内容

本发明的目的在于克服上述现有技术中帧内角度模式选择的编码复杂，选取过程繁琐，计算量过大的缺点，提供一种HEVC帧内角度模式选择方法、装置、设备及可读存储介质。