[发明专利]一种基于边缘检测的3D-HEVC深度图帧内编码模式快速决策方法

摘要

本发明公开了一种基于边缘检测的3D‑HEVC深度图帧内编码模式快速决策方法，本方法通过判断当前预测单元属于平坦区域还是纹理复杂区域来简化帧内模式选择过程。若满足平坦区域条件，则跳过相应帧内预测模式；否则，通过检测边缘的方向来减少粗模式选择(RMD)中角度模式计算数量，从而降低帧内编码复杂度，减少编码时间。对比实验结果证明了本算法的有效性，与标准测试平台HTM 16.0相比，本方法在保证视频编码质量基本不变的前提下，可以节省30.61％的编码时间，有效降低了视频帧内编码的复杂度。

主权项

1.一种基于边缘检测的3D‑HEVC深度图帧内编码模式快速决策方法，其特征在于：本方法包含如下步骤：S1判断当前PU是否属于为深度图，如为深度图继续进行步骤1.2，若为纹理图则进行35种帧内预测模式的粗模式选择过程，并跳转到步骤1.3；S2、提取深度图的灰度值，并利用边缘检测的方法判断当前PU的纹理特征，确定帧内编码候选模式：S2.1：对于PU的各个像素点，将水平、垂直、45度和135度角方向的各向同性Sobel算子模板与其覆盖的图像3×3区域的9个像素进行卷积计算后，得到该像素点的4个方向的边缘梯度分量G0，G45，G90和G135；4个方向的各向同性Sobel算子模板如图4所示；4个方向的边缘梯度计算公式为：G0，G45，G90和G135分别为当前编码单元PU中各像素点水平、45度角、垂直、和135度角方向的边缘梯度分量，p为像素点的亮度值；S2.2：计算各个方向的边缘梯度后，利用公式：计算当前像素的总梯度值；G为当前编码单元PU中各像素点的边缘梯度值；S2.3：得到PU中每个像素的总梯度值后，利用公式：计算当前PU的纹理复杂度；W为当前预测单元PU的宽度，Gi为边缘梯度值矩阵中第i个像素点的梯度幅值，T为当前PU的纹理复杂度；S2.4：若T＝0，则跳过粗模式选择过程，直接将Planar、DC模式加到帧内模式候选列表中；S2.5：若T≠0，计算在当前PU中每个像素的边缘梯度分量G0，G45，G90和G135分别为最大值的次数，记为D0，D45，D90和D135；S2.6：根据公式：MAIND＝max{D0，D45，D90，D135}，选择D0，D45，D90和D135中最大值所代表的方向为当前PU的纹理预测方向，并根据表2选择相应的帧内预测模式范围，并对相应模式进行粗模式选择计算；D0，D45，D90，D135分别表示当前PU中每个边缘梯度(G0，G45，G90，G135)为最大值的次数，MAIND为D0，D45，D90，D135中的最大值，即当前PU的纹理预测方向；表1纹理预测方向对应的帧内预测模式S3、将MPMs模式添加到候选列表中；S4、如果当前帧是深度图，则将DMMs添加到候选列表中；否则跳过此步骤；S5、计算候选列表中每个模式的率失真代价值，率失真代价值最小的模式作为最佳预测模式。