[发明专利]HEVC帧内CU划分和PU预测模式选择方法及系统

权利要求书

1.HEVC帧内CU划分和PU预测模式选择方法，其特征在于：包括以下步骤：

从一帧候选图像中依次提取编码模式待选择的CTU；

对提取的64×64CTU预划分为16个16×16CU块，并将每个16×16CU块预划分为4个8×8CU块；

从CU块左上角开始提取3×3像素矩阵；

使用sobel算子对提取的3×3像素矩阵进行卷积运算，得到45°、0°、-45°、-90°和-135°这五个方向的梯度值G_45°、G_0°、G_-45°、G_-90°和G_-135°；

根据得到的梯度值G_45°、G_0°、G_-45°、G_-90°和G_-135°计算27°、-27°、-63°和-117°这四个方向的梯度值G_27°、G_-27°、G_-63°和G_-117°；

根据45°、27°、0°、-27°、-63°、-45°、-90°、-117°和-135°这9个方向将-135°～45°的帧内预测角度划分为8个纹理方向范围，并以梯度值为0的方向所在的纹理方向范围作为提取的3×3像素矩阵的最佳纹理方向范围；

将与提取的3×3像素矩阵的最佳纹理方向范围垂直的纹理方向范围两个边界所在方向的梯度值的均值作为最佳纹理方向范围的幅值；

从CU块左上角开始按从左到右，自上而下的顺序平移3×3像素矩阵直至遍历完CU块，然后统计所有3×3像素矩阵，最终生成CU块的纹理方向范围-幅度分布直方图；

将生成的直方图中最高幅度的纹理方向范围作为CU块的最佳纹理方向范围，将生成的直方图中的最高幅值作为CU块的纹理强度，将生成的直方图中与最佳纹理方向范围垂直的纹理方向范围的幅值作为CU块的纹理复杂度；

将4个相邻8×8CU块的纹理方向范围-幅度分布直方图相加，得到并保存16×16CU块的纹理方向范围-幅度分布直方图，然后根据16×16CU块的纹理方向范围-幅度分布直方图得到并保存16×16CU块的最佳纹理方向范围、纹理强度和纹理复杂度；

将4个相邻16×16CU块的纹理方向范围-幅度分布直方图相加，得到并保存32×32CU块的纹理方向范围-幅度分布直方图，然后根据32×32CU块的纹理方向范围-幅度分布直方图得到并保存32×32CU块的最佳纹理方向范围、纹理强度和纹理复杂度；

将4个相邻32×32CU块的纹理方向范围-幅度分布直方图相加，得到并保存64×64CU块的纹理方向范围-幅度分布直方图，然后根据64×64CU块的纹理方向范围-幅度分布直方图得到并保存64×64CU块的最佳纹理方向范围、纹理强度和纹理复杂度；

S31、判断64×64CU块的纹理复杂度Tc1是否小于预设的第一经验阈值Th1，若是，则直接结束CTU的四叉树划分流程；反之，则将64×64CU块划分为4个32×32CU块，然后执行步骤S32；

S32、判断4个32×32CU块中任一个32×32CU块的纹理复杂度Tc2是否小于预设的第二经验阈值Th2，若是，则执行步骤S37；反之，则将该32×32CU块划分为4个16×16CU块，然后执行步骤S33；

S33、判断4个16×16CU块中任一个16×16CU块的纹理复杂度Tc3是否小于预设的第三经验阈值Th3，若是，则执行步骤S36；反之，则将该16×16CU块划分为4个8×8CU块，然后执行步骤S34；

S34、判断4个8×8CU块中任一个8×8CU块的纹理复杂度Tc4是否小于预设的第四经验阈值Th4，若是，则直接执行步骤S35；反之，则将该8×8CU块下的PU块尺寸设为4×4，然后执行步骤S35；

S35、判断是否已经遍历4个8×8CU块，若是，则执行步骤S33，反之，则执行步骤S34；

S36、判断是否已经遍历4个16×16CU块，若是，则执行步骤S32，反之，则执行步骤S33；

S37、判断是否已经遍历4个32×32CU块，若是，则结束CTU的四叉树划分流程，反之，则执行步骤S32；

根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；

计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式。