[发明专利]视频内容的审核方法、装置、设备和存储介质

权利要求书

1.一种视频内容的审核方法，其特征在于，包括：

获取待审核的视频文件；

提取所述视频文件的部分视频帧，作为特征帧；

对所述特征帧中的内容进行标注，获得第一内容标签和第一置信度；

若所述第一内容标签为违规标签，则根据所述第一置信度输出所述视频文件的内容审核结果；

若所述第一内容标签为未违规标签，则对所述特征帧的内容进行标注，获得第二内容标签和第二置信度；

根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果。

2.如权利要求1所述的视频内容的审核方法，其特征在于，在提取所述视频文件的部分视频帧，作为特征帧之前，所述方法还包括：

过滤所述视频文件中符合预设的质量条件的视频帧；

所述预设的质量条件包括如下的至少一种：

所述视频帧的亮度值低于预设的亮度阈值；所述视频帧的清晰度低于预设的清晰阈值。

3.如权利要求1或2所述的视频内容的审核方法，其特征在于，所述根据所述第一置信度输出所述视频文件的内容审核结果，包括：

确定所述第一置信度所属的置信范围；

若所述置信范围为第一范围，则确定所述特征帧的内容违规，将所述视频文件的内容审核结果设置为所述第一内容标签对应的内容违规类别；

若所述置信范围为第二范围，则将所述特征帧发送至质检端，接收所述质检端对所述特征帧标记的人工审核结果，将所述视频文件的内容审核结果设置为所述人工审核结果；

若所述置信范围为第三范围，则对所述特征帧的内容进行标注，获得第二内容标签和第二置信度；根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果；

其中，所述第一范围大于所述第二范围，所述第二范围大于所述第三范围。

4.如权利要求1或3所述的视频内容的审核方法，其特征在于，所述根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果，包括：

若所述第二内容标签为违规标签，则根据所述第二置信度输出所述视频文件的内容审核结果；

若所述第二内容标签为未违规标签，则确定所述视频文件的内容审核结果为内容合法。

5.如权利要求4所述的视频内容的审核方法，其特征在于，所述根据所述第二置信度输出所述视频文件的内容审核结果，包括：

判断所述第二置信度是否超出预设的阈值；

若是，则将所述视频文件的内容审核结果设置为所述第二内容标签对应的内容违规类别；

若否，则确定所述视频文件的内容审核结果为内容合法。

6.如权利要求1或2所述的视频内容的审核方法，其特征在于，所述提取所述视频文件的部分视频帧，作为特征帧，包括：

从所述视频文件中的视频帧提取纹理特征；

基于所述纹理特征对所述视频帧进行聚类，得到聚类簇；所述聚类簇具有聚类中心；

在所述聚类簇中计算所述视频帧与所述聚类中心之间的距离；

按照所述距离确定部分视频帧作为特征帧。

7.一种视频内容的审核装置，其特征在于，包括：

视频获取模块，用于获取待审核的视频文件；

特征帧提取模块，用于提取所述视频文件的部分视频帧，作为特征帧；

第一标注模块，用于对所述特征帧中的内容进行标注，获得第一内容标签和第一置信度；

第一结果输出模块，用于若所述第一内容标签为违规标签，则根据所述第一置信度输出所述视频文件的内容审核结果；

第二标注模块，用于若所述第一内容标签为未违规标签，则对所述特征帧的内容进行标注，获得第二内容标签和第二置信度；

第二结果输出模块，用于根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果。