[发明专利]一种基于元素类别的线性码率估计方法

说明书

本发明提供了一种基于元素类别的线性码率估计方法，涉及视频编码技术领域，首先将系数分为亮度和色度两组，然后分别在亮度编码组和色度编码组中按照元素类型和TU尺寸进一步划分，之后在每一组中选取特征参量，建立码率估计值与参量间的线性回归方程，最后选用视频序列进行训练，得出各组的线性回归系数。本发明消除了码率计算中由于编码结构造成的运算冗余，降低了码率计算复杂度，对语法元素进行细致的分组，在每组中分别建立线性回归方程进行码率估计，准确度更高，有效降低了RDO码率计算的复杂度，提高了编码效率；码率估计准确度较高，编码质量损失较小；鲁棒性强，在不同视频序列中都有较好的优化效果。

技术领域

本发明涉及视频编码技术领域，尤其是一种码率估计方法。

背景技术

HEVC通过率失真优化(Rate Distortion Optimization，RDO)选择出压缩率和编码质量综合效果最优的模式，该过程主要包括失真和码率的计算，前者需要经过变换、量化、反变换和反量化得出重建视频与原始视频的差别，即失真；后者需要对所涉及的语法元素进行熵编码，以得出所消耗的码率。因此，RDO过程十分繁琐，简化该过程的运算对于降低HEVC编码复杂度具有重要意义，国内外学术界和工业界在这方面的研究主要集中在码率计算过程的简化上，尤其是针对基于上下文的自适应二进制算术编码(Context basedAdaptive Binary Arithmetic Coding，CABAC)的快速码率估计算法研究，目前已取得较大进展，下面就几种典型方案进行介绍。

JCT-VC标准会议通过的一项提案JCTVC-G763指出，对于RDO过程无需进行实际的熵编码，只需知道最后消耗的码率即可，因此针对各个语法元素类别，分别制定一个与CABAC编码器的各个状态都对应的码率估计表，来估计每个语法元素所消耗的码率。通过获取bin(待编码二进制值)、根据bin的符号和类别以及pStateIdx(上下文概率模型状态索引)查询码率估计表、更新CABAC状态这三个步骤即可完成码率计算过程。该方案已经在HEVC标准测试软件HM中使用，可以在保证编码质量基本无损失的条件下，一定程度地降低编码复杂度，但由于RDO的码率计算过程运算量庞大，这一优化效果仍不能满足实际需求。

K.Won等人也建立了一个针对CABAC过程的查找表，不同的是该方案进一步扩大了查找表的适用范围，查找表不依赖于具体的语法元素类别，仅需pStateIdx和EMB(bin是否等于MPS)即可，该方案在降低复杂度上的效果与JCTVC-G763接近。之后，他们又在这一基础上进一步研究，通过分析CABAC的编码原理，推断出pStateIdx的分布规律与EMB取值的关系，并通过实验验证得出编码所消耗码率与待编码二元数间存在线性关系，然后通过实验测出线性系数，直接建立码率和待编码二元数间的线性方程，从而实现了只执行CABAC的二进制化即可估计出最终码率。该方案在降低复杂度上有了一定提升，但鲁棒性较差，在不同序列上实施效果差异较大，因此在实际使用时难以保证具有良好的优化效果。

发明内容

为了克服现有技术的不足，解决以往码率估计算法预测精度不高、鲁棒性较差、估计效率低等不足，本发明提出一种基于语法元素种类的线性码率估计模型，以变换单元(Transform Unit，TU)为基本处理单元，针对其中的量化系数进行快速码率估计，根据不同编码条件下采用不同的上下文概率模型这一特点，首先将系数分为亮度和色度两组，然后分别在亮度编码组和色度编码组中按照元素类型和TU尺寸进一步划分，之后在每一组中选取特征参量，建立码率估计值与这些参量间的线性回归方程，最后选用复杂度较高的PeopleOnStreet视频序列进行训练，得出各组的线性回归系数。在实际应用时通过上述方式进行分组，在各组中使用线性回归方程即可估计出对应码率情况，有效地降低了编码复杂度，同时编码质量损失较小，且具有良好的鲁棒性。

本发明解决其技术问题所采用的技术方案包括如下步骤：

第一步：调整TU编码结构，减少码率估计过程中遍历次数