[发明专利]基于集成学习和概率模型的快速VVC帧内预测方法

权利要求书

1.一种基于集成学习和概率模型的快速VVC帧内预测方法，其特征在于，包括以下步骤：

步骤S1：基于集成学习并利用视频序列的时空域相关性，预测得到不同编码单元的深度信息；

步骤S2：使用时空域相邻已编码CU的划分模式对未编码CU的划分模式进行预测，并按概率大小排序得到划分模式排序表；

步骤S3：根据得到的不同编码单元的深度信息和划分模式排序表，提前终止CU的划分；所述步骤S1具体为：

步骤S11：选定深度图参考单元，若当前帧领域存在已编码CU，就选定其深度图单元信息作为参考，否则选定前一帧相应位置的深度图单元信息作为参考；

步骤S12：读取数据集，对数据样本进行预处理，并送入三个不同的卷积神经网络进行网络训练，得到基于集成学习的深度预测模型；

步骤S13：将多尺度参考信息分别送入步骤S12训练好的三个卷积神经网络中，得到三个深度图单元预测值U₁、U₂及U₃，使用多数投票法集成三个卷积神经网络的预测结果作为最终的输出；

步骤S14、获得CU预测深度图后，使用预测深度图的平均值作为最终CU的预测深度D_O；

所述选定深度图参考单元的函数表达式如下：

其中X(x，y，t)表示第t帧位于(x，y)位置的深度图单元，其中Δx和Δy表示-n到n的整数。

2.根据权利要求1所述基于集成学习和概率模型的快速VVC帧内预测方法，其特征在于，所述最终CU的预测深度D_O具体为：

其中：表示向下取整函数；K和U_k分别表示该CU所包含的深度单元数目及该CU所包含的第k个深度单元的预测值。

3.根据权利要求1所述的基于集成学习和概率模型的快速VVC帧内预测方法，其特征在于，所述步骤S2具体为：

步骤S21：获取参考CU的信息，选取13个时空域相邻的用于划分模式预测的参考CU构成集合S；

步骤S22：选取集合S中所有参考CU的划分模式构成集合R；

步骤S23：计算属于集合R的划分模式M成为最佳划分模式的概率P(bm＝M|M∈R)；

步骤S24：在获得了所有划分模式M成为最佳划分模式的概率之后，按照概率值大小对属于R的划分模式进行排序，将其余不属于R的模式排在之后，得到最佳划分模式排序表；

步骤S25：使用划分模式排序表进行划分模式决策，若当前划分模式的RD代价值R_cur大于目前获得的最小RD代价值R_min，则跳过其它还未测试的划分模式以减少编码复杂度，否则测试下一个模式并更新R_cur与R_min。

4.根据权利要求3所述的基于集成学习和概率模型的快速VVC帧内预测方法，其特征在于，所述集合S的表达式如下：

S＝{S_ref，S_cur}

其中S_ref及S_cur分别表示位于当前帧及前一帧的参考CU集合，S_ref及S_cur的定义分别如下：

S_ref＝{C(x+iw，y+jh，t-1)|-1≤i≤1，-1≤j≤1，i∈Z，j∈Z}

S_cur＝{C(x-w，y-h，t)，C(x，y-h，t)，C(x+w，y-h，t)，C(x-w，y，t)}

其中w和h分别表示CU的像素值长度和宽度。

5.根据权利要求3所述的基于集成学习和概率模型的快速VVC帧内预测方法，其特征在于，所述集合R具体为：

R＝{M_CU|CU∈S}

其中M_CU表示CU的划分模式，S为步骤S21获取的集合。