[发明专利]基于上下文自适应阈值的依赖量化剪枝方法

说明书

本发明属于视频编码量化算法领域，公开了一种基于上下文自适应阈值的依赖量化剪枝方法，包括如下步骤：步骤1：系数量化分类；步骤2：建立基于上下文的自适应阈值模型；步骤3：自适应阈值确定；步骤5：网格状态更新。本发明通过DQ算法原理和量化结果统计分析，将复杂的动态规划量化抽象为量化参数QP、量化余数ξ、系数上下文index等多变量多区间分类问题。针对同一区间内仍存在不同量化结果问题，提出基于阈值比较的剪枝方法，裁剪部分“安全”路径，简化全路径搜索。极大减小动态规划搜索空间，解决DQ算法中全路径搜索复杂度较高问题。

技术领域

本发明属于视频编码量化算法领域，尤其涉及一种基于上下文自适应阈值的依赖量化剪枝方法。

背景技术

2020年7月，两大国际标准组织：国际电信联盟ITU-T和国际标准化组织ISO/IEC联手推出了新一代视频编码标准H.266/VVC，相比较之前的编码标准，在视频画面质量保持不变的前提条件下，压缩性能要提高50％。相比较于前一代视频编码标准H.265，H.266编码标准创新性地使用了四叉树加多类型树的块划分方法、多核变换以及依赖量化等技术，这一系列技术的应用使得H.266视频编码标准对于视频数据的存储压缩有了质的提升，举个例子，在打开和关闭依赖量化技术的对比下，压缩相同的视频流，使用依赖量化编码产生的码流相比较于不使用依赖量化编码产生的码流节约了6％-8％的码流。

然而到目前为止，H.265视频编码标准仍然是使用最广泛的编码标准，占据市场份额最大的视频编码标准，并且目前市场大多数视频监控仍只支持上一代的H.265标准。H.266视频编码标准由于其算法复杂度较高，以依赖量化算法(Dependent Quantization，DQ)为例，量化系数和系数之间较强的依赖关系，使得其在硬件电路中实现的难度大大上升，编码时间较长，目前在实际应用上仍然有着较大的优化空间。

发明内容

本发明目的在于提供一种基于上下文自适应阈值的依赖量化剪枝方法,以解决上述的技术问题。

为解决上述技术问题，本发明的基于上下文自适应阈值的依赖量化剪枝方法的具体技术方案如下：

一种基于上下文自适应阈值的依赖量化剪枝方法，包括如下步骤：

步骤1：系数量化分类：通过分析系数量化决策区间，将DQ量化结果简化为基于量化余数ξ的分类问题；

步骤2：建立基于上下文的自适应阈值模型：DQ会根据量化候选值的取值情况选择使用不同的上下文模型进行码率的计算，在量化过程中，使用的上下文模型采用index表示，对使用的上下文模型进行区分，建立以编码器量化参数QP，量化器状态S_k和index为变量的自适应阈值模型；

步骤3：自适应阈值确定：采用累积分布函数来衡量正确判断的概率，将得到的自适应阈值离线存储在表格中；

步骤4：系数预判决、裁剪“安全”路径：通过自适应阈值对系数进行预判决，根据判决结果提前剪除非必要量化路径，简化全路径搜索；

步骤5：网格状态更新。

进一步的，所述步骤1包括如下具体步骤：

变换系数C_(i)经过硬判决量化得到预量化值l_SQ，如公式1所示，式中Q_step为量化步长，为了直观地表现变换系数相对l_SQ的分布关系，对量化器量化决策区间进行统计，根据量化余数ξ的舍入情况，l_DQ被分类为“向下取整样本”和“向上取整样本”，其中ξ定义如公式2，前者意味着l_DQ等于l_SQ，相应ξ值被舍入为0，后者意味着l_DQ等于l_SQ+1，相应ξ值被舍入为1，因此采用ξ相关的阈值T_DR和T_UR对系数进行预判决分类，如公式3所示，