[发明专利]一种基于编解码端的几何划分模式预测方法、装置、存储介质及终端

说明书

本发明公开了一种基于编解码端的几何划分模式预测方法、装置、存储介质及终端，所述方法包括：对当前编码块进行最优模式预测，从总的模式集合中选出最可能模式集合；在最可能模式集合中进行模式决策；将最终决策得到的最优模式在最可能模式集合中的索引写入码流。从总的模式集合中进行模式决策，使用一个标识位标识最终决策得到的最优模式是否处于最可能模式集合，如果处于最可能模式集合中，则将其在最可能模式集合中的索引写入码流，否则将其在总的模式集合中的索引写入码流。因此，采用本申请实施例，可以降低划分模式编码开销，提升压缩性能，降低编码端复杂度。

技术领域

本发明涉及计算机技术领域，特别涉及一种基于编解码端的几何划分模式预测方法、装置、存储介质及终端。

背景技术

视频编码主要包括帧内预测、帧间预测、变换、量化、熵编码、环路滤波几个部分。帧间预测技术利用视频相邻帧之间的时域相关性，使用先前已经编码的重构帧作为参考帧，通过运动估计和运动补偿的方法对当前帧(当前正在编码的帧)进行预测，从而去除视频的时间冗余信息。对于一帧图像，在编码过程中不会直接对整帧图像进行处理，需要先划分成大的编码区域(Coding Tree Unit,CTU)，例如64x64、128x128大小。每个CTU可以进一步划分成方形或矩形的编码单元(Coding Unit，CU)。在过去的视频编码标准中，编码单元CU和预测单元(Prediction Unit,PU)都是方形或矩形的形状，几何划分预测技术(GeometricPartition，GEO)则是将一个CU划分成两个多边形的PU。

目前几何划分预测技术只用在merge模式中，在编码端的流程如下，对当前CU，构建GEO模式的运动矢量候选列表(mergecandidatelist)，从预设的N种模式中选择出最优的模式，并得到最优模式对应的索引GEOIdx，并且从候选列表中选出两个最优的运动矢量，作为划分后两个多边形PU各自的MV(MV0和MV1分别对应于PU0和PU1)，使用MV0对当前CU进行运动补偿得到P0，使用MV1对当前CU进行运动补偿得到P1。由于运动补偿过程需要对方形CU进行补偿，因此P0和P1和当前CU的大小相同。根据P0和P1以及选中的最优模式GEOIdx进行如下操作，以得到最终的重构CU。如图6所示CU，划分方式为图示的黑色线段，左上区域使用MV0，右下角使用MV1。对于划分线附近的像素点，为了避免边界的不连续性，使用P0和P1进行加权平均得到最终的重构值，权重通过预定的方式进行计算。加权的方式如下，此处的权重都是1到8之间的整数。对于非边界区域，直接使用其对应的重构值，即左上区域使用P0，右下区域使用P1。解码流程与编码流程类似如下，码流解析，如果当前CU使用GEO模式，则进行以下操作，解析码流得到当前CU使用的划分模式GEOIdx以及两个PU对应的运动矢量索引MergeCandIdx1和MergeCandIdx2；对当前CU，构建GEO模式的运动矢量候选列表(mergecandidatelist)，从候选列表中得到MergeCandIdx1和MergeCandIdx2对应的MV0和MV1.使用MV0进行运动补偿得到P0，使用MV1进行运动补偿得到P1。根据P0，P1以及CU划分模式GEOIdx进行组合得到最终的重构CU。现有技术存在的问题(1)传递GEOIdx这个语法元素需要额外消耗的bit数目太多，严重影响了GEO的性能。假如说有128种模式，需要将0～127的数值写入码流，需要消耗7个bit来进行表示。(2)对所有CU都在编码端尝试所有可能的GEO划分模式，复杂度较高。

发明内容

本申请实施例提供了一种基于编解码端的几何划分模式预测方法、装置、存储介质及终端。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。

第一方面，本申请实施例提供了一种基于编解码端的几何划分模式预测方法，应用于编码端，其特征在于，所述方法包括：

获取目标编码单元和预设模式集合；