[发明专利]视频内容审核方法、装置、存储介质和计算机设备

说明书

本申请提供一种视频内容审核方法、装置、存储介质和计算机设备，所述的方法包括：获取待检测视频的每帧图片的违规分数；确定违规分数最高的前N帧图片；N大于1；将前N帧图片的违规分数输入训练后的分类器中，由所述分类器对前N帧图片的违规分数进行拟合，获得所述待检测视频的分数；根据所述待检测视频的分数判断所述待检测视频是否违规。本申请实施例提高了违规视频的召回率。

技术领域

本申请涉及计算机技术领域，具体而言，本申请涉及一种视频内容审核方法、装置、存储介质和计算机设备。

背景技术

随着多媒体技术的发展，视频已成为用户发布信息和娱乐的主流方式。不可避免的，总是会有一些不法分子由于利益等原因发布违规视频，例如，色情低俗视频、造谣传谣视频、版权侵犯视频和侵犯未成年人权益视频等等。因此，为了为用户提供积极、美好、绿色和健康的网络环境，视频审核变得尤为重要。

目前一般基于深度学习图像分类模型对视频进行审核，具体过程为：通过深度学习图像分类模型获取视频的每帧图片的违规分数，取最大违规分数代表视频的评分，然后将评分大于一定阈值的视频推送给人工审核，从而在很大程度上降低人工审核工作量，并提高了视频违规检测的效率。但是该种方式存在违规视频的召回率较低的缺陷，其中，召回率指的是推送给人工审核的视频中真正属于违规视频所占比例。

发明内容

本申请针对现有方式的缺点，提出一种视频内容审核方法、装置、存储介质和计算机设备，以提高违规视频的召回率。

本申请的实施例根据第一个方面，提供了一种视频内容审核方法，包括：

获取待检测视频的每帧图片的违规分数；

确定违规分数最高的前N帧图片；N大于1；

将前N帧图片的违规分数输入训练后的分类器中，由所述分类器对前N帧图片的违规分数进行拟合，获得所述待检测视频的分数；

根据所述待检测视频的分数判断所述待检测视频是否违规。

在一个实施例中，所述分类器为xgboost分类器。

在一个实施例中，所述获取待检测视频的每帧图片的违规分数，包括：

获取待检测视频的每帧图片在各个违规类别下的违规分数。

在一个实施例中，所述确定违规分数最高的前N帧图片，包括：

分别确定各个违规类别下分数最高的前N帧图片。

在一个实施例中，所述将前N帧图片的违规分数输入训练后的分类器中，由所述分类器对前N帧图片的违规分数进行拟合，获得所述待检测视频的分数，包括：

将各个违规类别下的前N帧图片的违规分数输入训练后的分类器中，由所述分类器对各个违规类别下的前N帧图片的违规分数进行拟合，获得所述待检测视频的分数。

在一个实施例中，所述将前N帧图片的违规分数输入训练后的分类器中，由所述分类器对前N帧图片的违规分数进行拟合，获得所述待检测视频的分数，包括：

将前N帧图片的违规分数以及其它特征输入训练后的分类器中，由所述分类器对前N帧图片的违规分数以及其它特征进行拟合，获得所述待检测视频的分数。

在一个实施例中，所述分类器通过以下方式训练获得：

获取样本视频，以及用于表征所述样本视频是否违规的视频标签；

计算所述样本视频的每帧图片的违规分数；

根据所述样本视频的每帧图片的违规分数和所述视频标签，对分类器进行训练，获得训练后的分类器。

本申请的实施例根据第二个方面，还提供了一种视频内容审核装置，包括：