[发明专利]一种识别违规图片的方法及装置

说明书

本申请涉及计算机技术领域，提供一种识别违规图片的方法及装置，用以解决识别违规图片时花费的时间长的问题，其中，方法包括：对待识别图片进行特征提取，得到第一基础图像特征；基于第一基础图像特征和各个第一识别模型进行疑似违规识别，若待识别图片被判定为疑似违规图片，则将待识别图片输入到相应的第一识别模型关联的至少一个第二识别模型中进行二次识别。只需提取一次通用的简单特征，即可采用粗粒度的疑似违规识别与细粒度的精准违规识别相结合的方式，快速过滤掉绝大多数的正常图片，并对疑似违规图片进行二次精准识别，大幅度地降低各个第二识别模型的压力，提升模型的整体性能和响应速度。

技术领域

本申请涉及计算机技术领域，提供了一种识别违规图片的方法及装置。

背景技术

随着互联网技术的快速发展，图片因具备直观、真实、信息承载量大等优势，在社交平台、商业广告等各类信息承载媒体上的占比越来越大，导致网络上每天都会生成海量的图片。

为了获得网络热度，不法分子会生成或者传播包含色情、暴力、恐怖等违规元素的图片。为了从海量图片中识别出前述提到的违规图片，通常采用人工标注或者深度学习神经网络的方式识别图片是否违规，但人工标注费时费力、工作效率低下，而为了保证识别准确率，需要使用海量参数构建复杂的深度学习神经网络，导致深度学习神经网络在识别违规图片时需要花费更多的时间进行运算，降低了工作效率。

有鉴于此，本申请实施例提供了一种新的识别违规图片的方法及装置。

发明内容

本申请实施例提供一种识别违规图片的方法及装置，用以解决识别违规图片时花费的时间长的问题。

第一方面，本申请实施例提供的一种识别违规图片的方法，包括：

对待识别图片进行特征提取，得到第一基础图像特征；

基于所述第一基础图像特征和预设的各个第一识别模型进行疑似违规识别，得到所述各个第一识别模型对应的第一预测概率；其中，所述各个第一识别模型分别对应一个聚类标签，所述第一预测概率用于判定所述待识别图片为对应聚类标签下的正常图片、疑似违规图片和违规图片中的一种；

若所述待识别图片被判定为疑似违规图片，则将所述待识别图片输入到相应的第一识别模型关联的至少一个第二识别模型中进行二次识别；其中，所述相应的第一识别模型为将所述待识别图片判定为疑似违规图片的模型，所述至少一个第二识别模型是所述相应的第一识别模型的子模型。

可选的，对待识别图片进行特征提取，得到第一基础图像特征，包括：

基于预设的目标特征提取模型对所述待识别图片进行特征提取，得到所述第一基础图像特征；

其中，所述目标特征提取模型是根据训练完毕的初始特征提取模型的输入层和设定数量的卷积层组成的。

可选的，在得到所述各个第一识别模型对应的第一预测概率之后，针对一个第一识别模型执行以下操作：

若所述一个第一识别模型的第一预测概率不超过第一阈值，判定所述待识别图片是对应聚类标签下的正常图片；

若所述一个第一识别模型的第一预测概率大于第二阈值，判定所述待识别图片是对应聚类标签下的违规图片；

若所述一个第一识别模型的第一预测概率大于所述第一阈值、且不超过所述第二阈值时，判定所述待识别图片是对应聚类标签下的疑似违规图片。

可选的，将所述待识别图片输入到相应的第一识别模型关联的至少一个第二识别模型中进行二次识别，包括：

将所述待识别图片输入到所述至少一个第二识别模型中进行二次识别，得到所述至少一个第二识别模型对应的第二预测概率；其中，所述至少一个第二识别模型分别对应一个子标签，所述第二预测概率用于判定所述待识别图片为对应子标签下的正常图片或者违规图片。