[发明专利]敏感图片的合规性检测方法、装置、存储介质及设备

说明书

本申请公开了一种敏感图片的合规性检测方法、装置、存储介质及设备，属于图片处理技术领域。所述方法用于合规性检测网络中，所述合规性检测网络中包括目标检测网络和至少一个检测分支，每个检测分支对应于一种合规性检测策略；包括：获取待检测的敏感图片；利用所述目标检测网络，从所述敏感图片中识别出敏感区域和敏感类别，所述敏感区域中包含敏感目标，所述敏感类别是所述敏感目标所属的类别；从所述至少一个检测分支中选择与所述敏感类别对应的目标检测分支；利用所述目标检测分支的合规性检测策略检测所述敏感图片是否合规。本申请可以实现对敏感图片的合规性检测，且可以提高检测的准确性。

技术领域

本申请实施例涉及图片处理技术领域，特别涉及一种敏感图片的合规性检测方法、装置、存储介质及设备。

背景技术

随着网站上敏感图片的日益增多，需要对网站上的敏感图片设置比较严格的监管规范，以使敏感图片不会被擅自涂改、扭曲和变形等，从而保证敏感图片的合规性。

目前，敏感图片的合规性检测大多由审核人员承担，然而，网站上每日会产生海量的敏感图片，人工审核敏感图片的合规性会非常困难，因此，需要引入基于计算机视觉的检测方法，以降低审核人员的审核难度，提高审核效率。

常用的基于计算机视觉的检测方法是目标检测方法，该目标检测方法可以识别敏感图片中的敏感区域，以及敏感区域中的敏感目标所属的敏感类别。然而，仅仅识别出敏感区域和敏感类别是无法判断敏感图片是否合规的。

发明内容

本申请实施例提供了一种敏感图片的合规性检测方法、装置、存储介质及设备，用于解决现有的目标检测算法误判检测敏感图片的合规性的问题。所述技术方案如下：

一方面，提供了一种敏感图片的合规性检测方法，用于合规性检测网络中，所述合规性检测网络中包括目标检测网络和至少一个检测分支，每个检测分支对应于一种合规性检测策略；所述方法包括：

获取待检测的敏感图片；

利用所述目标检测网络，从所述敏感图片中识别出敏感区域和敏感类别，所述敏感区域中包含敏感目标，所述敏感类别是所述敏感目标所属的类别；

从所述至少一个检测分支中选择与所述敏感类别对应的目标检测分支；

利用所述目标检测分支的合规性检测策略检测所述敏感图片是否合规。

在一种可能的实现方式中，所述检测分支是规范检测网络，所述合规性检测策略是检测所述敏感区域是否符合设定的规范，若所述敏感区域符合所述规范，则确定所述敏感图片合规，若所述敏感区域不符合所述规范，则确定所述敏感图片不合规；或者，

所述检测分支是人脸检测网络，所述合规性检测策略是检测所述敏感区域是否是敏感人脸，若所述敏感区域不是所述敏感人脸，则确定所述敏感图片合规，若所述敏感区域是所述敏感人脸，则确定所述敏感图片不合规；或者，

所述检测分支是违规检测分支，所述合规性检测策略是将敏感区域是违规标志的敏感图片确定为不合规。

在一种可能的实现方式中，当所述检测分支是规范检测网络时，所述规范检测网络中包括至少一个孪生网络，每个孪生网络对应于一种规范，所述利用所述目标检测分支的合规性检测策略检测所述敏感图片是否合规，包括：

从所述至少一个孪生网络中选择与所述敏感类别对应的目标孪生网络；

将所述敏感区域和预设的标准图片分别输入所述目标孪生网络中相同的两个神经网络中，所述标准图片是与所述敏感目标属于同一敏感类别且符合所述规范的图片；

利用所述两个神经网络检测所述敏感区域与所述标准图片的分类结果；

若所述分类结果是同类，则确定所述敏感区域符合所述规范，且所述敏感图片合规；