[发明专利]一种基于多分支卷积神经网络的HEVC帧内预测方法

摘要

本发明涉及一种基于多分支卷积神经网络的HEVC帧内预测方法，属于视频编码领域，本方法使用多分支卷积神经网络，对每个CTU进行预处理，并分别作为不同分支的卷积神经网络的输入，经过卷积计算之后，将得到的特征进行全连接，考虑不同QP值的影响，并最终输出三个分支的分类结果，三个分支分别对应每个CTU中深度等级0，1，2，判断三个深度等级的CU是否继续划分或者停止划分。本发明一种基于多分支卷积神经网络的HEVC帧内预测方法能够有效地减少编码器计算开销，在保持编码性能基本不变的情况下，减少编码时间。

主权项

1.一种基于多分支卷积神经网络的HEVC帧内预测方法，其特征在于，包括：收集数据时，选取多种不同纹理的视频，取前25帧在不同QP值下用原始HEVC编码器进行编码，将每个编码树单元CTU中三种不同深度等级的编码单元CU是继续划分或者终止划分的结果作为标签，所有标签记录在一个编码树单元CTU中，作为训练集；训练数据时，对于训练集中的每一个编码树单元CTU，进行预处理，输出三个降采样程度不一的编码树单元CTU，并输入至多分支卷积神经网络进行训练，随后进行四层卷积层计算，每次卷积的卷积核不重叠，将输出的三个分支的卷积结果输入到一维的全连接层中，进行两次全连接，并加入对应QP值到全连接中进行计算；最后，再次分成三个分支，根据输出的标签确定分支的输出；得到训练好的多分支卷积神经网络；测试数据时，选取20种不同分辨率不同视频内容的视频序列作为测试集，将每一帧图像的编码树单元CTU，输入到训练好的多分支卷积神经网络，输出每个编码树单元CTU中不同深度等级编码单元CU的最佳尺寸。