[发明专利]基于DCT的3D-HEVC快速帧内预测决策方法

摘要

本发明公开了一种基于DCT的3D‑HEVC快速帧内预测决策方法。本发明首先利用DCT公式计算当前预测块的DCT矩阵，然后对当前系数块的左上角系数和进一步对右下角系数进行判断是否具有边缘，最后通过是否具有边缘判定是否要将DMMs加入帧内预测模式候选列表。本发明在3D‑HEVC中引入了深度图实现更好的视图合成，3D视频编码扩展开发联合协作组针对深度图帧内预测编码提出了4中新的针对深度图帧内预测模式DMMs。DCT具有能量聚集的特性，故在3D‑HEVC深度图编码过程中可以明显区分编码块是否具有边缘。本发明具有计算复杂度低、编码时间短和视频重建效果好的特点。

主权项

基于DCT的3D‑HEVC快速帧内预测决策方法，其特征在于包括如下步骤：步骤1.基于3D‑HEVC，在进行预测块划分后，首先得到该预测块在35种传统帧内预测模式下的残差信号，再对残差信号进行Hadamard变换计算SATD值，并利用SATD值计算每种传统预测模式的率失真代价；步骤2.对不同大小的PU块，利用整数DCT公式计算当前预测块的DCT系数矩阵，保存为一个矩阵；步骤3.若当前预测块尺寸为4*4、8*8大小，则对当前系数块的左上角系数进行判断，首先判断最左边的块系数，再判断上面的块系数，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数大于阈值，则直接判断该预测块没有边缘，并且跳转步骤5；若当前预测块尺寸为16*16、32*32大小，则对当前系数块的左上角系数进行判断，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数都大于阈值，则继续判断右下角系数是否为零，跳转步骤4；步骤4.若当前预测块为16*16大小，则只对当前系数块的右下角系数中的坐标的系数进行判断：若该系数不是零则直接判断该预测块具有边缘，跳转步骤5，若该系数为零则认为该预测块没有边缘，继续下一步计算；若当前预测块为32*32大小，则对当前系数块的右下角系数进行判断：首先判断最右下角的块系数是否为零，再判断另外两个系数块是否为零，若某个块系数不是零则直接判断该预测块具有边缘，跳转步骤5，若所有块都是全零系数块，则认为该预测块没有边缘，继续下一步计算；步骤5.若预测块没有边缘则不计算该预测块在DMMs下所有模式的率失真代价，反之则计算该预测块在DMMs下所有模式的率失真代价，并将DMMs模式加入预测候选列表；步骤6.从预测候选列表中选取率失真代价最小的几种模式为预测模式集，并且将当前预测块的已编码相邻块的预测模式补充到预测模式集中，得到最终的预测模式集合rd‑cost；步骤7.遍历预测模式集合rd‑cost中的所有模式，并对每个预测模式的残差信号进行熵编码，并且计算每个预测模式下的率失真代价RD‑Cost；从预测模式集合rd‑cost中的所有模式中选取率失真代价最小的预测模式，即最优的帧内预测模式作为该预测块中亮度块选取的最优模式，并保存最优模式的所有数据；通过得到当前预测块的最优帧内预测模式对当前预测块进行变换、量化；步骤8.当预测块中亮度块选取的最优模式式选定后，把该最优模式以及传统帧内预测模式种的DC、planars、水平方向、垂直方向模式作为预测块中色度块的候选列表，同样遍历预测模式候选列表，计算预测模式候选列表中每个预测模式的率失真代价，选取率失真代价最小的预测模式，即最优的帧内预测模式作为色度块的最优模式；通过得到的最优帧内预测模式对当前预测块进行变换、量化；步骤9.继续下一个预测块的帧内预测。