[发明专利]一种基于AVS3的帧内CU快速划分方法

说明书

本发明公开了一种基于AVS3的帧内CU快速划分方法，方法包括：通过父编码单元根据约束条件确定所有可选划分方式；基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分；遍历所有可选划分方式，递归计算每种划分方式对应的率失真优化代价；将所述率失真优化代价最小时对应的可选划分方式作为最佳划分方式；根据所述最佳划分方式对父编码单元进行划分。本发明的编码时间短且编码损失相对稳定，可广泛应用于音视频编码技术领域。

技术领域

本发明涉及音视频编码技术领域，尤其是一种基于AVS3的帧内CU快速划分方法。

背景技术

数字音视频编解码技术标准工作组(Audio Video coding Standard Workgroupof China，AVS)在2002年成立，主要负责制(修)订数字音视频的压缩、解压缩、处理和表示等共性技术标准，为数字音视频设备与系统提供高效经济的编解码技术，服务于高分辨率数字广播、高密度激光数字存储媒体、无线宽带多媒体通讯、互联网宽带流媒体等重大信息产业应用。AVS工作组制定的AVS系列标准，如AVS+，AVS2，已经广泛应用在国内视频应用中，国内视频编码标准发展也逐步跟上国际视频编码标准的步伐。2017年，国际标准组织开始制定下一代视频压缩标准VVC；AVS工作组发布第三代面向8K及5G产业应用的音视频编解码技术标准AVS3。

AVS3在保留了AVS2部分编码工具的同时，针对不同模块引入的新的编码工具，更加丰富的块划分方式、更精细的预测模式以及更灵活的变换核，提高了编码效率，同时也加大了编码的复杂度。总体性能对比结果来看，AVS3相比AVS2编码性能高出23.52％，时间复杂度增加了一倍，解码复杂度是AVS2参考软件的一半。相对HEVC平均编码性能提高了22.25％，时间复杂度大概是HEVC的7倍，解码时间略有上升。复杂度的增加不利于进行实时编码，也给硬件实现带来了困难，这大大限制了AVS3的应用和推广，因此降低AVS3的复杂度，提高编码速度的快速算法成为当下重点研究内容。

为了满足视频高清化发展需求，AVS3的编码单元(Coding Unit,CU)划分在上一代标准的基础上添加了水平/垂直方向的二叉树划分(Binary Tree，BT)和拓展四叉树划分(Extended Quad-tree，EQT)方式。其中，EQT是字节跳动公司在AVS工作组第66次会议提出来的工字形划分方式，为AVS3所特有。具体划分方式如图1所示，首先判断CU是否为QT，若是，则直接四叉树划分，不是QT，则判断是否继续划分，不继续划分则结束判断，终止当前CU划分，继续划分则需判断是EQT还是BT，并且判断划分的方向为水平还是垂直。

过去针对不同的标准，专家曾经研究了不少十分有效的CU划分快速算法，主要有使用灰度共生矩阵计算编码单元的纹理方向信息或者利用递归划分产生的历史信息对某种水平或者垂直方向的划分方式进行跳过、利用人工智能中的卷积神经网络来进行CU形状和大小的划分决策训练等算法，这对AVS3有很重要的参考价值，但是仍需针对AVS3中的新技术进行优化研究。

发明内容

有鉴于此，本发明实施例提供一种编码时间短且编码损失相对稳定的，基于AVS3的帧内CU快速划分方法。

本发明的一方面提供了一种基于AVS3的帧内CU快速划分方法，包括：

父编码单元根据约束条件确定所有可选划分方式；

基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分；

遍历所有可选划分方式，递归计算每种划分方式对应的率失真优化代价；

将所述率失真优化代价最小时对应的可选划分方式作为最佳划分方式；

根据所述最佳划分方式对父编码单元进行划分。

可选地，所述基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分，包括：