[发明专利]RDOQ的系数优化方法、RDOQ的加速方法及装置

权利要求书

1.一种RDOQ的系数优化方法，其特征在于，包括：

针对一个非全零系数组，以系数为单位，按照预设的系数扫描顺序依次对非全零系数组内的每个系数进行零系数判断，根据判断结果执行下述操作：

对于位于初始的最后非零系数之前的零系数，获取零系数对应的比特数；所述初始的最后非零系数的位置已知，所述初始的最后非零系数之前是以正序扫描方向为正方向描述的；

对于位于初始的最后非零系数之前系数幅值为1的非零系数，利用第一计算式计算该非零系数与该非零系数量化为零系数时的率失真代价差，得到第一计算结果；并根据第一计算结果进行系数调整；

第一计算式如下：

ΔRD(L_i,0)＝ΔD(L_i,0)+ΔR(1,0)；

式中，L_i表示非零系数的系数幅值，这里L_i＝1；ΔRD(L_i,0)表示非零系数与零系数的率失真代价差；ΔD(L_i,0)表示非零系数与零系数的失真度改变量；ΔR(1,0)表示非零系数与零系数的比特数改变量；

对于位于初始的最后非零系数之前系数幅值大于1的非零系数，利用第二计算式计算该非零系数与该非零系数幅值减1时的系数的率失真代价差，得到第二计算结果；并根据第二计算结果进行系数调整；

第二计算式如下：

ΔRD(L_i,L_i-1)＝ΔD(L_i,L_i-1)+ΔR(L_i,L_i-1)；

其中，L_i表示非零系数的系数幅值，这里L_i大于1；ΔRD(L_i,L_i-1)表示非零系数与非零系数减1的率失真代价差；ΔD(L_i,L_i-1)表示非零系数与非零系数减1的失真度改变量；ΔR(L_i,L_i-1)表示非零系数与非零系数减1的比特数改变量。

2.根据权利要求1所述的方法，其特征在于，还包括：

对于位于初始的最后非零系数之后的零系数，不计算该零系数的率失真代价。

3.根据权利要求1所述的方法，其特征在于，还包括：

对于系数调整后的该非全零系数组进行系数组全零化判断。

4.根据权利要求3所述的方法，其特征在于，所述对于系数调整后的该非全零系数组进行系数组全零化判断，具体包括：

利用第三计算式计算系数调整后的该非全零系数组与全零系数组的率失真代价差，得到第三计算结果；

第三计算式如下：

ΔRD(CG,0)＝ΔD(CG,0)+ΔR(CG,0)；

上式中，CG表示系数调整后的非全零系数组；ΔRD(CG,0)表示系数调整后的该非全零系数组与全零系数组的率失真代价差；ΔD(CG,0)表示系数调整后的该非全零系数组与全零系数组的失真度的改变量；ΔR(CG,0)表示系数调整后的该非全零系数组与全零系数组的比特数的改变量；

根据第三计算结果进行系数组全零化判断；

当第三计算结果小于零时，将非全零系数组的非零系数全置为零，并更新系数组的比特数。

5.根据权利要求1所述的方法，其特征在于，还包括：

针对一个全零系数组，获取该全零系数组的比特数。