[发明专利]一种基于LightGBM的VVC帧内编码划分方法

说明书

本发明公开了一种基于LightGBM的VVC帧内编码划分方法，特点是获取待划分CU的编码特征；获取待划分CU的其他划分模式的率失真代价；将待划分CU的编码特征输入至预先完成训练的水平LightGBM模型和垂直LightGBM模型中，得到水平预测值和垂直预测值，若水平预测值或垂直预测值小于预设的阈值，跳过当前划分模式；若水平预测值或垂直预测值大于等于预设的阈值，则选择率失真代价最小的划分模式作为待划分CU的最佳划分模式；优点是利用水平LightGBM模型和垂直LightGBM模型对待划分CU进行预测，通过水平预测值和垂直预测值判断编码单元是否要进行三叉树水平或垂直划分，从而跳过编码过程中对三叉树水平或垂直划分模式的率失真代价计算过程，提高了编码速度。

技术领域

本发明涉及视频编码领域，尤其是一种基于LightGBM的VVC帧内编码划分方法。

背景技术

随着5G技术的发展，人们对超高清视频、虚拟现实视频的需求日益增大，因此需要更大的存储空间来保存视频数据，为缓解视频存储对资源空间的需求，视频编码标准作为视频压缩技术的一种常用技术手段，目的在于不降低视频解码后的视频质量的前提下，最大可能的提高视频压缩比。为了研究未来视频编码技术标准化的潜在需求，ITU-T视频编码专家组(VCEG)和ISO/IEC移动图像专家组(MPEG)联合成立了视频探索小组(JVET)，该专家组征集高效视频编码及其扩展提案，推出了一种新的视频编码标准，称为通用视频编码(Versatile Video Coding，VVC)。

现有的VVC帧内编码划分方法中，一般采用基于机器学习或基于梯度或采用多个分类器进行预测或利用神经网络进行划分，基于机器学习的划分方法大多采用随机森林、决策树和支持向量机等，容易过拟合；基于梯度的划分方法需要预先计算编码单元(CU)的方向梯度，增加了时间复杂度；采用多个分类器进行预测的划分方法，实现过程复杂；利用神经网络的划分方法大多需要很长的训练和计算时间，为节省时间大多采用十分简单的网络结构，导致最后的预测结果准确率低；此外原有的VVC编码器还存在编码速度慢的问题。

发明内容

本发明所要解决的技术问题是提供一种基于LightGBM的VVC帧内编码划分方法，不但不会过拟合，时间复杂度低，而且实现过程简单，准确率高，提高了编码速度。

本发明解决上述技术问题所采用的技术方案为：一种基于LightGBM的VVC帧内编码划分方法，包括以下步骤：

①获取输入的视频帧中待划分的编码单元的编码特征；

②通过VVC原平台获取待划分的编码单元的四叉树划分模式、二叉树水平划分模式和二叉树垂直划分模式的率失真代价；

③若当前划分模式为三叉树水平划分模式，则执行步骤④；若当前划分模式为三叉树垂直划分模式，则执行步骤⑤；

④将待划分的编码单元的编码特征输入至预先完成训练的水平LightGBM模型中，得到水平预测值yh，将水平预测值yh与预设的阈值α进行比较，若水平预测值yh小于预设的阈值α，则执行步骤⑥；若水平预测值yh大于等于预设的阈值α，则计算三叉树水平划分模式的率失真代价，执行步骤⑦；

⑤将待划分的编码单元的编码特征输入至预先完成训练的垂直LightGBM模型中，得到垂直预测值yv，将垂直预测值yv与预设的阈值α进行比较，若垂直预测值yv小于预设的阈值α，则执行步骤⑥；若垂直预测值yv大于等于预设的阈值α，则计算三叉树垂直划分模式的率失真代价，执行步骤⑦；

⑥跳过当前划分模式，通过VVC原平台中Xcheckbestmode函数得到待划分的编码单元的最佳划分模式；

⑦比较所有划分模式的率失真代价后获得率失真代价最小的划分模式，该率失真代价最小的划分模式即为待划分的编码单元的最佳划分模式。

所述的编码特征包括二叉树优越性BTS、二叉树方向BTD、块形比BSR、多类型树深度MTD和编码块旗标CBF。