[发明专利]视频压缩自适应量化与反量化方法

权利要求书

1.一种视频压缩自适应量化方法，其特征在于，包括如下步骤：

(a)获取量化单元各像素的预测残差、量化模板、第一补偿模板、第二补偿模板；

(b)根据所述预测残差、所述量化模板、所述第一补偿模板获得量化残差和第一率失真优化；

(c)根据所述量化残差和所述第二补偿模板获得第二率失真优化；

(d)比较所述第一率失真优化和所述第二率失真优化，若所述第一率失真优化小于等于所述第二率失真优化，则设置补偿标识为不进行第二补偿处理；否则设置所述补偿标识为进行第二补偿处理；

(e)将所述补偿标识、所述量化残差写入码流；其中，

所述步骤(b)包括：

(b1)根据所述预测残差、所述量化模板、所述第一补偿模板获得量化残差、第二反量化残差、第一残差损失；

(b2)根据所述量化残差和所述第一残差损失计算第一率失真优化；其中，

所述步骤(b1)包括：

(b11)根据所述预测残差、所述量化模板获得所述量化残差；

(b12)根据所述量化残差、所述量化模板获得第一反量化残差；

(b13)根据所述第一反量化残差、所述第一补偿模板获得第二反量化残差；

(b14)根据所述第二反量化残差、所述预测残差获得所述第一残差损失；

其中，所述量化残差满足：

QPRES_i＝[PRES_i＞＞QP_i]

其中，QPRES_i为第i位像素的量化残差，PRES_i为第i位像素的预测残差，QP_i为第i位像素的量化模板；“”算式表示，若有表达式am则表示将整型数a按二进制位向右移动m位，低位移出后，高位补0；

第一反量化残差满足：

IQPRES_1_i＝QPRES_iQP_i

其中，IQPRES_1_i为第i位像素的第一反量化残差；“”算式表示，若有表达式am则表示将整型数a按二进制位向左移动m位，高位移出后，低位补0；

第二反量化残差满足：

IQPRES_2_i＝IQPRES_1_i+CP_i

IQPRES_2_i为第i位像素的第二反量化残差，CP_i为第一补偿模板中第i位像素的第一补偿参数；

第一残差损失满足：

LOSS_1_i＝IQPRES_2_i-PRES_i

LOSS_1_i为第i位像素的第一残差损失；其中：

所述步骤(c)包括：

(c1)根据所述第一残差损失获得波动系数；

(c2)根据所述第二反量化残差、所述波动系数、所述第二补偿模板获得第三反量化残差；

(c3)根据所述第三反量化残差和所述预测残差获得第二残差损失；

(c4)根据所述量化残差和所述第二残差损失获得所述第二率失真优化；其中，所述波动系数k满足：

lossres_i为第i位像素的残差损失，pixnum_none0为所述残差损失内非0的数量，round表示四舍五入运算符；

所述第二补偿模板CT₂满足：

CT₂＝{c₀,c₁,c_i,…,c_m}，其中，c＝0或1或-1，m＝量化单元长度；ci为第i位像素的第二补偿参数；

所述量化单元长度为8，所述第二补偿模板CT₂＝{1,0,-1,0,1,0,-1,0}；

第三反量化残差满足：

IQPRES_3_i＝IQPRES_2_i+k×c_i

其中，IQPRES_3_i为第i位像素的第三反量化残差；

所述第二残差损失满足：

LOSS_2_i＝IQPRES_3_i-PRES_i

LOSS_2_i为第i位像素的第二残差损失；

第一率失真优化满足：

RDO₁为第一率失真优化，pixnum为量化单元的长度，a1和a2为权重参数；

第二率失真优化满足：

RDO₂为第二率失真优化。