[发明专利]一种共享可更新的Deepfake视频内容监管方法及系统

说明书

本发明涉及一种共享可更新的Deepfake视频内容监管方法及系统，其方法包括：步骤S1：将Deepfake视频输入预处理模块，提取视频关键帧并截取人脸图像作为训练样本；步骤S2：提取训练样本的空域与频域特征，将特征信息输入SVM分类模型进行训练，得到初始的内容监管模型；步骤S3：基于区块链技术建立共享可更新策略，并设计激励机制收集新的有效的Deepfake视频数据；步骤S4：收集样本数量达到阈值后，对初始模型进行更新训练，更新后对样本贡献者共享Deepfake视频内容检测方法并等待下一次更新。本发明可以实现Deepfake视频内容检测方法的共享，并对其进行持续性更新，有效消除了Deepfake视频数据集样本不平衡问题，解决了过拟合问题，从而提高了内容监管模型的泛化能力。

技术领域

本发明涉及机器学习和互联网内容监管领域，具体涉及一种共享可更新的Deepfake视频内容监管方法及系统。

背景技术

随着人工智能技术的发展，基于深度学习的深度伪造技术日趋成熟，通过多媒体篡改工具可以对视频中的人脸进行随意的篡改，并且几乎无法被肉眼察觉。伴随着短视频新型内容的传播方式的兴起，Deepfake视频传播速度加快、传播范围增大，可能被利用从事危害国家安全、侵犯他人合法权益等法律法规禁止的活动，对社会稳定造成不良影响。2019年12月，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发《网络音视频信息服务管理规定》，规定强调“网络音视频信息服务提供者应当部署应用非真实音视频鉴别技术，发现音视频信息服务基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播信息内容的，应采取警示整改、限制功能、暂停更新、关闭账号等处置措施，保存有关记录，并向网信、文化和旅游、广播电视等部门报告”。因此，网络音视频信息中存在的Deepfake视频成为互联网内容监管中不可或缺的重要部分。

目前，深度伪造人脸检测技术主流的研究方向大致分为两类：基于视频帧帧内差异的检测方法与基于视频帧帧间差异的检测方法。基于帧内差异的检测方法着重于从人脸面部的细节特征差异出发，而忽略了深度伪造视频的上下文信息；基于视频帧间差异的检测方法依赖于提取的关键帧数量，如果视频过短则检测效果大幅下降。同时，因未考虑到深度伪造生成技术也在不断地更新升级，当前已有的检测方法依赖特定的数据集和生成算法，当新的Deepfake视频内容来源于新型的深度伪造技术或者不包含特定数据集的样本时，部分检测方法准确率会降低甚至检测方法失效，即模型出现过拟合问题。

因此，在互联网环境下图像质量存在较大差异的现实境况，除了考虑内容监管模型检测准确率与检测效率，如何提高模型的泛化能力也成为Deepfake视频检测的重要研究方向。

发明内容

为了解决上述技术问题，本发明提供一种共享可更新的Deepfake视频内容监管方法及系统。

本发明技术解决方案为：一种共享可更新的Deepfake视频内容监管方法，包括：

步骤S1：将Deepfake视频输入预处理模块，提取视频关键帧并截取人脸图像作为训练样本；

步骤S2：提取训练样本的空域与频域特征，将特征信息输入SVM分类模型进行训练，得到初始的内容监管模型；

步骤S3：基于区块链技术建立共享可更新策略，并设计激励机制收集新的有效的Deepfake视频数据；

步骤S4：收集样本数量达到阈值后，对初始模型进行更新训练，更新后对样本贡献者共享Deepfake视频内容检测方法并等待下一次更新。

本发明与现有技术相比，具有以下优点：

1、本发明利用片段的方法提取视频的关键帧，基于直方图差异进行边缘检测后，通过二次筛选进行自适应阈值的边界帧的判断，并依据片段内帧的变化程度来决定关键帧的数量；进而对关键帧进行人脸识别并裁剪出正方形人脸图像，从而在信息噪声较大的视频数据中获取集合程度更高的人脸图像样本。