[发明专利]媒体文件审核方法及系统

权利要求书

1.一种媒体文件审核方法，其特征在于，包括如下步骤：

步骤1：分类收集待审核文件；

步骤2：将待审核文件进行迭代训练并取得目标检测模型；

步骤3：通过目标检测模型将待审核文件进行检测处理，筛选出风险文件；

步骤4：将待审核文件进行过滤处理；

步骤3包括：

步骤31：将待审核文件输入所述目标检测模型中，训练后输出对应于待审核文件的风险值；

步骤32：将步骤31所得风险值与预设的第一风险阈值进行比对，将高于第一风险阈值的风险值所对应的图像文件打上风险标签；

步骤4包括：

步骤41：读取图像文件是否包含风险标签，若是则跳转至步骤42，若否进程结束；

步骤42：将待审核文件对应的风险值与第二风险阈值进行比对，若该风险值高于第二风险阈值，则跳转至步骤43，否则跳转至步骤44；

步骤43：若图像文件由待审核文件中的视频文件转化而成，删除该图像文件对应的视频文件；否则删除该图像文件；

步骤44：计算图像文件的风险区域面积并将该风险区域面积与预存的面积阈值进行比对，若风险区域面积大于面积阈值则跳转至步骤45；否则跳转至步骤46；

步骤45：对图像文件上的风险区域进行模糊处理；

步骤46：对图像文件上的风险区域进行遮挡处理。

2.如权利要求1所述媒体文件审核方法，其特征在于，步骤1包括：

步骤11：构建内容审核目录；

步骤12：基于内容审核目录将待审核文件进行分类收集；

步骤13：将待审核文件中的视频文件进行抽帧处理、将该视频文件转化为图像文件；

步骤14：将待审核文件进行清洗和标注。

3.如权利要求2所述媒体文件审核方法，其特征在于，步骤2包括：

以YOLO v5目标检测模型将待审核文件进行迭代训练并取得目标检测模型。

4.一种媒体文件审核系统，其特征在于，包括：采集模块，训练模块，检测模块和过滤模块；

所述采集模块用于分类收集待审核文件，所述待审核文件包括视频数据和图像数据；

所述训练模块用于将待审核文件进行迭代训练并取得目标检测模型；

所述检测模块用于通过目标检测模型将待审核文件进行检测处理，筛选出风险文件；

所述过滤模块用于将待审核文件进行过滤处理；

所述检测模块筛选出风险文件时，包括以下步骤：

步骤31：将待审核文件输入所述目标检测模型中，训练后输出对应于待审核文件的风险值；

步骤32：将步骤31所得风险值与预设的第一风险阈值进行比对，将高于第一风险阈值的风险值所对应的图像文件打上风险标签；

所述过滤模块将待审核文件进行过滤处理时，包括以下步骤：

步骤41：读取图像文件是否包含风险标签，若是则跳转至步骤42，若否进程结束；

步骤42：将待审核文件对应的风险值与第二风险阈值进行比对，若该风险值高于第二风险阈值，则跳转至步骤43，否则跳转至步骤44；

步骤43：若图像文件由待审核文件中的视频文件转化而成，删除该图像文件对应的视频文件；否则删除该图像文件；

步骤44：计算图像文件的风险区域面积并将该风险区域面积与预存的面积阈值进行比对，若风险区域面积大于面积阈值则跳转至步骤45；否则跳转至步骤46；

步骤45：对图像文件上的风险区域进行模糊处理；

步骤46：对图像文件上的风险区域进行遮挡处理。