[发明专利]视频内容的审核方法、装置、设备和存储介质

说明书

本发明公开了一种视频内容的审核方法、装置、设备及存储介质，所述方法包括：获取待审核的视频文件；提取所述视频文件的部分视频帧，作为特征帧；对所述特征帧中的内容进行标注，获得第一内容标签和第一置信度；若所述第一内容标签为违规标签，则根据所述第一置信度输出所述视频文件的内容审核结果；若所述第一内容标签为未违规标签，则对所述特征帧的内容进行标注，获得第二内容标签和第二置信度；根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果。本发明实施例能够快速有效的对视频内容进行审核，提高视频审核的召回率和精确率。

技术领域

本发明实施例涉及视频处理技术领域，具体涉及一种视频内容的审核方法、装置、设备和存储介质。

背景技术

随着短视频等视频应用的快速发展，互联网上存在着海量的视频文件。由于互联网具有公开性和广泛传播性，所以需要各大平台对这些视频文件实施有效的监管，以传播正确的价值观。由于视频的数据量过多，所以仅仅利用人工筛选的方式会消耗大量人力资源。

目前平台上大量视频的主要采用机器审核，审核方法主要过程如下：首先对视频采取逐帧或顺帧抽取为图片，再根据训练好的模型对图片进行分类，进而判断该视频是否违规。

在图片识别的过程中，现有的采取模型标准单一，容易遗漏信息，造成识别的精确度低。

发明内容

本发明提供一种视频内容的审核方法，能够快速有效的对视频内容进行审核，提高视频审核的召回率和精确率。

第一方面，本发明实施例提供了一种视频内容的审核方法，包括：

获取待审核的视频文件；

提取所述视频文件的部分视频帧，作为特征帧；

对所述特征帧中的内容进行标注，获得第一内容标签和第一置信度；

若所述第一内容标签为违规标签，则根据所述第一置信度输出所述视频文件的内容审核结果；

若所述第一内容标签为未违规标签，则对所述特征帧的内容进行标注，获得第二内容标签和第二置信度；

根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果。

在第二方面，本发明实施例还提供一种视频内容的审核装置，包括：

视频获取模块，用于获取待审核的视频文件；

特征帧提取模块，用于提取所述视频文件的部分视频帧，作为特征帧；

第一标注模块，用于对所述特征帧中的内容进行标注，获得第一内容标签和第一置信度；

第一结果输出模块，用于若所述第一内容标签为违规标签，则根据所述第一置信度输出所述视频文件的内容审核结果；

第二标注模块，用于若所述第一内容标签为未违规标签，则对所述特征帧的内容进行标注，获得第二内容标签和第二置信度；

第二结果输出模块，用于根据所述第二内容标签和所述第二置信度输出所述视频文件的内容审核结果。

在第三方面，本发明实施例还提供一种设备，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现第一方面中的视频内容审核的方法。

在第四方面，本发明实施例还提供一种存储介质，所述存储介质包括存储的计算机程序，其中，在所述计算机程序运行时控制所述存储介质所在设备执行第一方面中的视频内容审核的方法。