[发明专利]基于上下文自适应偏移模型的视音频编码硬判决量化方法

说明书

本发明公开了一种基于上下文自适应的HDQ量化方法，采用上下文自适应量化偏移模型，实现上下文及码率阈值自适应的量化算法。该模型通过模拟最佳软判决量化特点，引入系数间的相关性，在硬判决量化基础上提出一种新的CABAC上下文自适应偏移模型。该模型统计了码率实际节省情况，利用贝叶斯二值判别法计算出可区分量化结果的最佳阈值，利用模型实现阈值与码率对偏移量的动态调节。实验表明基于本文的上下文自适应偏移模型适合硬件编码器架构设计实现，算法性能逼近最优SDQ量化，且比固定偏移量HDQ量化获得更高率失真性能提升。

技术领域

本发明算法适用于H.264视频编码器的量化器设计，同样适用于H.265/HEVC 视频编码器的量化器设计，具体是一种基于上下文自适应偏移模型的视频编码硬判决量化方法。

背景技术

在视频压缩编码中，采取了一系列措施以实现更高的视频压缩性能。量化可以有效的减小信号取值空间，从而达到更好的压缩效果。量化决定着视频压缩前后失真大小，对码率控制也有极大的影响。其中每个系数不同字段的量化与Cabac 上下文概率索引有关，相同字段下索引值不同，被量化为不同值的可能性不同，根据这一可能性，可在量化过程中更准确的量化为一个“携带更少自信息”的量化幅值。

在早期的视频编解码器中，变换系数的量化采用了标量量化(uniform scalarquantizer，USQ)。后来，在MPEG-4和早期的H.264/AVC等相关编码标准中采用了基于简单四舍五入的硬判决量化算法(hard-decision quantization HDQ)。后来又有学者提出，采用固定偏移量的HDQ算法，软判决量化算法(soft-decision quantization SDQ)以及SDQ算法的简化算法，即率失真优化量化算法(Rate distortion optimization quantizationRDOQ)。

以上所提到的量化算法，各有优缺，本发明充分利用了上述算法中的优点，同时又弥补上述算法中的部分缺陷。

最接近的已有技术1：采用自适应固定偏移量的HDQ算法

该算法利用了熵编码的统计特性，对帧内预测块以及帧间预测块分别采用了不同的偏移量。实验验证，帧内预测块的偏移量取1/3，帧间预测块的偏移量取 1/6较为合适。相比于早期量化器中所采用的简单四舍五入的HDQ算法，采用固定偏移量的HDQ算法可以提升较大的率失真性能。H.264/AVC以及HEVC标准的相关编码器均采用了该算法。

该已有技术的缺陷：

该算法仍然属于HDQ算法，认为块内相邻系数相互独立，因此，认为信号源为无记忆信源。但是，在基于上下文的熵编码算法中，无记忆信号源的假设是不成立的。所以在率失真性能上，该算法并不是最优的。

最接近的已有技术2：软判决量化(SDQ)算法

SDQ算法采用HDQ算法做为预量化算法，将处于零到预量化值之间的所有整数作为候选量化值，而后，利用维特比全搜索方法，在率失真优化准则下选择出量化块中所有系数对应的最佳量化值。该算法对块中部分系数的量化结果进行微调，调整时考虑率失真编码代价以及系数间的相互影响，在性能上相比于HDQ 有很大提升。

该技术已有技术的缺陷：

该算法充分考虑系数间的相关性，同时采用了维特比全搜索的方法，虽在性能上表现优异，但是，由维特比搜索带来的计算复杂度，系数时序间的相关性以及串行性严重阻碍SDQ算法在硬件上的有效实现。

最接近的已有技术3：RDOQ算法