[发明专利]基于上下文自适应偏移模型的视音频编码硬判决量化方法

摘要

本发明公开了一种基于上下文自适应的HDQ量化方法，采用上下文自适应量化偏移模型，实现上下文及码率阈值自适应的量化算法。该模型通过模拟最佳软判决量化特点，引入系数间的相关性，在硬判决量化基础上提出一种新的CABAC上下文自适应偏移模型。该模型统计了码率实际节省情况，利用贝叶斯二值判别法计算出可区分量化结果的最佳阈值，利用模型实现阈值与码率对偏移量的动态调节。实验表明基于本文的上下文自适应偏移模型适合硬件编码器架构设计实现，算法性能逼近最优SDQ量化，且比固定偏移量HDQ量化获得更高率失真性能提升。

主权项

1.一种基于上下文自适应偏移模型的视频编码硬判决量化方法，包括如下步骤：(1)上下文自适应偏移量建模；(2)利用RDQ＝1、RDQ＝0两种不同量化情况，进行数据采集及统计得到码率节省R_saved和最佳偏移量相对应的两类数据，根据采集的数据进行分析，构建码率节省R_saved与最佳偏移量的函数模型；(3)通过码率节省R_saved计算得到最佳自适应阈值R_th，在位置系数i、量化参数Qp不同、不同分段余数约束的条件下，选取在这些不同组合下的最佳阈值R_th，分析R_th与Qp、i的联系，并建立三者的函数关系，找到自适应阈值表达式R_th＝f(Qp,i)；(4)将步骤(3)中自适应阈值引入到模型中构建上下文及阈值自适应新模型，并提升视频编码性能；所述步骤(2)的数据采集及统计分析，包括：a)对比HDQ和SDQ量化结果，研究最终量化为0或者1对码率的节省情况，分别对二者量化结果相同和不同时，不同语法元素上下文的自信息进行码率节省值R_saved的统计，得到两类码率节省值R_saved的数据；b)对最佳偏移量的统计，若两种算法量化结果一致，不断修正HDQ算法的偏移量，得到一个可保证两种量化结果一致的正相偏移量取值范围；若两种算法的量化结果不一致，修正HDQ算法的偏移量，同样得到一个可保证两种量化结果一致的反相偏移量取值范围；根据量化参数的不同组合，对所有系数的正反偏移量取值范围分组分析，确定不同组合下的系数所取的最佳正相偏移量取值范围以及最佳反相偏移量取值范围；步骤a)中上下文自适应模型由上下文状态转换过程决定，由于HDQ量化结果为零的系数对SDQ算法是至关重要的，HDQ量化结果从零改为其他非零值，会增加码率的消耗，HDQ量化结果用于表示非零系数标识(sig)、最后非零系数标识(last)以及非零系数幅度字段(abs)，本模型的建立就是在此基础上，考虑HDQ量化幅度u＝1时：情况1：如果一个块内仅只有一个非零系数u_i，即nz_last＝1，那么u＝1变为0所节省的码率R_saved被估计为：R_saved(u)＝R_sig1(u_i)+R_last1(u_i)+ψ_sig0(u_i)+R_Bin0(u_i,0)+R_sign(u_i)  (1)其中，位置系数i＝1，R_sig1、R_last1和R_sign分别表示sig＝1、last＝1以及u_i系数的符号编码比特数；而R_bin0是u＝1时Bin0字段的编码比特；假设有几个HDQ结果为零的系数位于当前这个唯一非零系数和直流系数之间，这些夹在中间的所有零系数sig＝0字段的编码比特消耗可以节省为情况2：如果系数u_i是最后一个非零系数，但在它和直流系数之间有其他非零系数；u＝1变为零可以节省编码比特估计为其中，R_last1(u_i)+R_last0(u_i‑1)‑R_last1(u_i‑1)为last字段码率节省，这里需要考虑下一个非零系数last字段由1变为0导致的编码码率变化；可能会有一些HDQ量化零系数处于当前非零系数和下一个非零系数之间，这些零系数sig字段编码比特节省可以估计为情况3：如果系数u_i不是最后一个非零系数，或它后面有一个非零系数被选为“不安全”非零系数，加在中间连续零系数，sig字段编码比特消耗没有发生变化；u从1变为0导致的编码比特节省如下：R_saved(u)＝R_sig(u_i)+R_last0(u_i)‑R_sig0(u_i,0)+R_sign(u_i)  (5)步骤b)中最佳偏移量的选取模拟SDQ算法的行为特征，基于统计分析方法在最大正判概率和最小误判概率的双重约束下，估计最优死区偏移量；具体而言，对比SDQ及HDQ算法的量化结果，若两种量化结果一致，调整HDQ偏移量，得到HDQ与SDQ量化结果一致的偏移量范围(δ_min1,δ_max1)，该范围的上下限按照下式确定：mod是取余操作计算符，u为DCT系数，q为量化步长，δ_opt为偏移量；收集所有处于范围(δ_min,δ_max)中的偏移量，该范围称为正相偏移量范围；若两种量化结果不一致，修正HDQ的偏移量，迫使得到与SDQ算法一致的量化结果，修正的偏移量范围(δ_min2,δ_max2)上下限按照下式确定：mod是取余操作计算符，u为DCT系数，q为量化步长，δ_opt为偏移量；该范围为反相偏移量范围；分别以R_saved及最佳偏移量为参量，利用matlab绘制散点图，构建相应函数模型；在已有模型δ＝f(Λ,Qp)基础上，建立一个新的模型δ＝f(Qp,δ_opt,i,R_th)，所述函数模型为：引入一个对偏移量δ_opt的微调因子ω，其中，R_saved＝Δ_R＝R_real‑R_th  (10)并确定A、B参数最佳组合，由于ω微调δ_opt，可先假设δ为0.7～1.2倍δ_opt的上下波动，即，δ＝(0.7～1.2)·δ_opt  (11)根据式(9)、式(11)得由(12)式可推出A、B的范围，组合A、B取值，与调节量ω＝0的情况对比，观察A‑B‑BDpsnr三维曲面图并找出最佳A、B组合；最终新模型确立为：