[发明专利]一种基于置信度的帧内编码器优化方法

说明书

本发明涉及一种基于置信度的帧内编码器优化方法，首先计算各模式的置信度，根据模式的置信度和角度构建二维矢量；其次，根据预测模式的置信度，进一步减少模式候选列表的数量。最后，基于预测模式的置信度，设定阈值以确定CU划分是否提前终止。本发明能够保证视频质量的前提下，大幅提高视频编码的效率。

技术领域

本发明涉及视频编码领域，特别是一种基于置信度的帧内编码器优化方法。

背景技术

随着高清和超高清视频的快速发展，HEVC不仅可以支持超高分辨率的视频，提升视频图像质量，而且在视频编码的压缩效率方面取得了很大进展，相较于H.264，在同等画面质量下比特率减少了50％。然而，HEVC的高压缩率是以增加复杂度作为代价的，其中帧内预测带来了极高的计算复杂度。

发明内容

有鉴于此，本发明的目的是提出一种基于置信度的帧内编码器优化方法，能够在保证视频质量的前提下，大幅提高视频编码的效率。

本发明采用以下方案实现：一种基于置信度的帧内编码器优化方法，具体包括以下步骤：

步骤S1：计算各预测模式的置信度，根据置信度和角度构建预测矢量；

步骤S2：根据置信度选择一定范围内(5-27种)的预测模式进行HAD cost(哈达玛变化绝对误差成本)估算，并减少候选模式列表的个数，提高编码效率；

步骤S3：基于置信度的分布，设定编码单元(CU)划分与否的依据，完成提前终止编码单元划分。

进一步地，步骤S1中，根据置信度和角度构建预测矢量具体为：利用左，上相邻预测块(PU)的编码模式和置信度构建预测矢量。

进一步地，步骤S1具体包括以下步骤：

步骤S11：计算每个预测模式的置信度采用下式：

式中，r_j表示为第j区间中预测模式的置信度，同一区间不同模式的置信度相同，m是将35种哈达玛变化绝对误差代价(HAD cost)的最大差值等距划分的区间数；n为35种预测模式，n_j为落在第j区间内的预测模式数量；

步骤S12：将每个预测模式映射为对应的角度，并利用置信度和角度构建二维矢量(r,θ)；其中，每个预测模式对应的角度为：

式中，θ_i是第i种预测模式对应的角度，d是水平或垂直方向的偏移值，V₀表示垂直模式的初始值，H₀表示水平模式的初始值，并设定V₀＝-90°，H₀＝0°；

步骤S13：根据相邻预测块的编码矢量来预测当前预测块的预测矢量，三者的依赖关系为：

式中，是当前预测块的估计预测矢量，(r_l,θ_l)是左预测块的实际预测矢量，(r_u,θ_u)是上预测块的实际预测矢量；w_t是模型的权重，其值介于0-1之间；

进一步地，步骤S1进一步包括以下步骤：

步骤S14：收集之前帧相同预测块位置的信息，来动态调整w_t的值，定义t是当前帧的索引，T是已经编码帧的数量，定义如下：

式中，(r_i,θ_i)表示第i帧中当前预测块(PU)的共同定位块的实际预测向量，表示第i帧中当前预测块(PU)的共同定位块的估计预测向量；