[发明专利]一种视频审核的方法、装置、审核服务器和存储介质

说明书

本发明公开了一种视频审核的方法、装置、审核服务器和存储介质。其中，该方法包括：将待审核视频中的每一关键视频帧输入违规分类模型中，通过违规分类模型中不同违规子类别下的二分类模块得到各关键视频帧在对应违规子类别下的分类得分；针对每一违规子类别，融合各关键视频帧在该违规子类别下的分类得分，得到待审核视频在该违规子类别下的违规得分；根据待审核视频在不同违规子类别下的违规得分以及预设的违规阈值，确定待审核视频的违规类别组成。本发明提供的技术方案，实现对待审核视频的多违规类别判定，避免造成对违规子类别的误判或漏判的问题，保证待审核视频在不同违规子类别下的审核独立性，提高视频审核的全面性和准确性。

技术领域

本发明实施例涉及互联网资源中违规内容审核领域，尤其涉及一种视频审核的方法、装置、审核服务器和存储介质。

背景技术

随着互联网技术的快速发展，网络上的流媒体资源呈爆炸式增长，使得互联网上传播的各类短视频或网络直播视频等新型用户原创内容(User Generated Content，UGC)越来越丰富。与此同时，大量涉及到恐怖、暴力、色情或政治敏感等话题的违规视频也被生产并在互联网上快速传播出来，因此针对各类型互联网视频，需要预先判断其违规类型，以防止任一违规类型下互联网视频的传播。

目前，视频审核方法通常利用卷积神经网络(Convolution Neural Network，CNN)模型对互联网视频中的各视频帧进行特征提取和训练，并利用训练得到的神经网络模型依次判定单个视频帧中是否存在违规内容，进而根据多个单视频帧的检测结果判断整个互联网视频是否违规，此时无法通过多个视频帧之间的特征关联关系判断视频是否违规，极易造成误判或漏判的问题，而且采用互斥分类的审核方法，仅能判断该视频是正常还是违规，而无法准确审核出视频在违规时所属的具体违规类型。

发明内容

本发明实施例提供了一种视频审核的方法、装置、审核服务器和存储介质，自动识别待审核视频的违规类型组成，提高视频审核的准确性。

第一方面，本发明实施例提供了一种视频审核的方法，该方法包括：

将待审核视频中的每一关键视频帧输入预先构建的违规分类模型中，通过所述违规分类模型中不同违规子类别下的二分类模块得到各所述关键视频帧在对应违规子类别下的分类得分；

针对每一违规子类别，融合各所述关键视频帧在该违规子类别下的分类得分，得到所述待审核视频在该违规子类别下的违规得分；

根据所述待审核视频在不同违规子类别下的违规得分以及预设的违规阈值，确定所述待审核视频的违规类别组成。

第二方面，本发明实施例提供了一种视频审核的装置，该装置包括：

分类得分确定模块，用于将待审核视频中的每一关键视频帧输入预先构建的违规分类模型中，通过所述违规分类模型中不同违规子类别下的二分类模块得到各所述关键视频帧在对应违规子类别下的分类得分；

违规得分确定模块，用于针对每一违规子类别，融合各所述关键视频帧在该违规子类别下的分类得分，得到所述待审核视频在该违规子类别下的违规得分；

违规类型审核模块，用于根据所述待审核视频在不同违规子类别下的违规得分以及预设的违规阈值，确定所述待审核视频的违规类别组成。

第三方面，本发明实施例提供了一种审核服务器，该审核服务器包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例所述的视频审核的方法。