[发明专利]一种基于LightGBM的VVC帧内编码划分方法

权利要求书

1.一种基于LightGBM的VVC帧内编码划分方法，其特征在于包括以下步骤：

①获取输入的视频帧中待划分的编码单元的编码特征；

②通过VVC原平台获取待划分的编码单元的四叉树划分模式、二叉树水平划分模式和二叉树垂直划分模式的率失真代价；

③若当前划分模式为三叉树水平划分模式，则执行步骤④；若当前划分模式为三叉树垂直划分模式，则执行步骤⑤；

④将待划分的编码单元的编码特征输入至预先完成训练的水平LightGBM模型中，得到水平预测值yh，将水平预测值yh与预设的阈值α进行比较，若水平预测值yh小于预设的阈值α，则执行步骤⑥；若水平预测值yh大于等于预设的阈值α，则计算三叉树水平划分模式的率失真代价，执行步骤⑦；

⑤将待划分的编码单元的编码特征输入至预先完成训练的垂直LightGBM模型中，得到垂直预测值yv，将垂直预测值yv与预设的阈值α进行比较，若垂直预测值yv小于预设的阈值α，则执行步骤⑥；若垂直预测值yv大于等于预设的阈值α，则计算三叉树垂直划分模式的率失真代价，执行步骤⑦；

⑥跳过当前划分模式，通过VVC原平台中Xcheckbestmode函数得到待划分的编码单元的最佳划分模式；

⑦比较所有划分模式的率失真代价后获得率失真代价最小的划分模式，该率失真代价最小的划分模式即为待划分的编码单元的最佳划分模式。

2.根据权利要求1所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的编码特征包括二叉树优越性BTS、二叉树方向BTD、块形比BSR、多类型树深度MTD和编码块旗标CBF。

3.根据权利要求1所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的VVC原平台为VTM4.0。

4.根据权利要求1所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的预先完成训练的水平LightGBM模型的构建及训练过程如下：

选取CTC测试序列中每个视频的第一帧，通过VVC原平台对每个第一帧中每个编码单元进行特征提取，得到每个编码单元对应的编码特征以及对应的最终的划分模式；

将一个编码单元对应的编码特征以及对应的最终的划分模式记为一个样本，构建水平数据集，所述的水平数据集包括至少172835个样本，其中每个编码特征均使用浮点格式映射到0-1的范围，若编码单元的最终的划分模式为三叉树水平划分模式，则记为1，若编码单元的最终的划分模式不为三叉树水平划分模式，则记为0；

设置训练参数，将水平数据集输入至LightGBM模型中进行训练，得到水平LightGBM模型。

5.根据权利要求1所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的预先完成训练的垂直LightGBM模型的构建及训练过程如下：

选取CTC测试序列中每个视频的第一帧，通过VVC原平台对每个第一帧中每个编码单元进行特征提取，得到每个编码单元对应的编码特征以及对应的最终的划分模式；

将一个编码单元对应的编码特征以及对应的最终划分模式记为一个样本，构建垂直数据集，所述的垂直数据集包括至少166920个样本，其中每个编码特征均使用浮点格式映射到0-1的范围，若编码单元的最终的划分模式为三叉树垂直划分模式，则记为1，若编码单元的最终的划分模式不为三叉树垂直划分模式，则记为0；

设置训练参数，将垂直数据集输入至LightGBM模型中进行训练，得到垂直LightGBM模型。

6.根据权利要求1所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的步骤④和步骤⑤中，所述的预设的阈值α为0.5。

7.根据权利要求4或5所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的LightGBM模型通过直方图算法和带深度限制的叶子生长策略构建得到。

8.根据权利要求4或5所述的一种基于LightGBM的VVC帧内编码划分方法，其特征在于所述的训练参数包括算法类型为GBDT，目标函数为二分类，评估函数为准确率，叶子结点数为31，学习率为0.005。