[发明专利]一种基于残差分布的HEVC快速帧间深度划分方法

摘要

本发明公开了一种基于残差分布的HEVC快速帧间深度划分方法，在低延时或随机接入编码配置下读入编码帧，执行Inter_2N×2N模式后以4×4像素块为单位计算编码单元内不同块的残差值；对4×4像素块的残差取平均作为所处深度CU的残差均值；在执行统计残差的帧中，每编码完成一个编码树单元，根据CTU的实际深度，将预测过程中相应深度的CU残差分为分割和不分割两类，根据统计认为残差均值服从高斯分布；在基于残差进行快速深度决策的帧中，以各深度Inter_2N×2N模式完成后的残差均值为特征，计算残差在高斯分布中的概率并根据概率大小确定当前CU是否分割；依次编码剩余CTU和后续帧，直到全部帧编码完成。该方法在较好保持视频编码质量的同时能较大幅度地降低HEVC帧间预测的计算复杂度。

主权项

1.一种基于残差分布的HEVC快速帧间深度划分方法，其特征在于，包括以下步骤：1)在低延时或随机接入编码配置下读入当前编码帧，若是I帧则对所有编码树单元执行帧内预测编码，并转向步骤8)，若不是I帧则根据帧号判断该帧用于统计残差帧还是基于残差执行快速深度划分，若是用于统计残差帧则转向步骤2)，否则转向步骤6)；2)对判定用于统计残差帧中的所有编码树单元执行HEVC标准帧间预测流程，并对0、1、2三个深度下Inter_2N×2N模式执行完成后以亮度通道4×4像素块为单位计算残差值，并对编码单元包含的4×4像素块的残差值取平均作为编码单元的残差均值；3)对判定用于统计残差帧中的所有编码树单元编码完成之后，根据编码树单元的最佳深度将编码过程中得到的编码单元残差分类为分割和不分割两类；4)继续读入当前图像组的下一帧，并返回步骤1)直到当前图像组中的所有帧编码完成以获得残差统计信息；5)对步骤4)中由当前图像组中所有被判定为统计残差帧的残差统计信息使用高斯分布进行建模，并根据各深度下编码单元的残差均值来计算分割和不分割编码单元残差的均值和方差，以建立高斯概率密度函数；6)对基于残差执行快速深度划分的编码帧中的所有编码树单元，对深度为0、1、2的编码单元的Inter_2N×2N模式执行完成后以4×4像素块为单位计算残差值，并对编码单元包含的4×4像素块的残差值取平均作为编码单元的残差均值7)以当前编码单元残差均值为特征，根据高斯分布概率密度函数公式计算其概率大小，并判断是否直接终止划分；8)对基于残差执行快速深度划分的编码帧继续编码剩余编码树单元及剩余编码帧，直到再次执行统计残差分布的帧或视频序列的全部帧编码完成。