[发明专利]一种基于深度卷积网络的视频环路滤波器

摘要

本发明公开了一种基于深度卷积网络的视频环路滤波方法，步骤1、制作用于环路滤波网络训练的训练数据集；步骤2、构建用于视频滤波的网络模型；步骤3、将步骤1获得的训练数据集作为网络的训练集，分别训练用于帧内预测帧滤波和帧间预测帧滤波的两部分模型，这两部分模型构成视频滤波网络模型；以最小化损失函数为优化目标，对视频滤波网络模型进行训练；步骤4、将步骤3中训练好的视频滤波网络模型整合到视频编码软件中，以完成整个视频编码过程，得到经视频滤波网络后的重建帧。本发明较传统滤波方法提高了视频重建帧的图像质量，提高帧间预测的准确性，提高编码效率，滤波后的图像帧具有更高的重建质量，极大地提高了视频编码效率。

主权项

1.一种基于深度卷积网络的视频环路滤波方法，其特征在于，该方法包括以下流程：步骤1、选择图像数据集和视频数据集，对数据集中未压缩的原始图像和视频进行压缩，将图像数据集压缩后得到的失真图像和原始图像制作成帧内预测帧滤波网络的训练数据集；将视频压缩后的得到的失真图像帧和原始图像帧制作成帧间预测滤波网络的训练数据集；步骤2、构建用于视频滤波的网络模型，该模型包括多个卷积层、激活层和归一化层，不同卷积层之间存在跨卷积层短路连接；第一层卷积层将输入图像表征成特征图，最后一层的卷积层则重建压缩图像与原始图像间的残差，中间层为失真图像与原始图像的非线性映射的残差学习单元；步骤3、将步骤1获得的两种训练数据集，分别训练用于帧内预测帧滤波和帧间预测帧滤波的两种不同特性的网络模型，这两种模型分别对视频中不同类型的帧进行滤波；以最小化损失函数为优化目标，对视频滤波网络模型进行训练，两种模型的损失函数相同，只是训练的数据集不同，训练出的两个模型特性不同，分别针对不同类型的视频帧滤波。给定训练集N为训练集中训练亮度块的个数，xⁱ为压缩后失真的亮度块，yⁱ为未压缩的原始亮度块；则亮度网络的损失函数数学表达如下：其中，Θ表示网络的参数集，该损失函数通过反向传播小批量随机梯度下降算法优化，网络模型的初始权重使用适用于ReLU激活函数的MSRA初始化方法；步骤4、将步骤3中训练好的视频滤波网络模型整合到视频编码软件中，除去编码软件中的去方块滤波和自适应像素补偿模块，以完成整个视频编码过程，得到经视频滤波网络后的重建帧。