[发明专利]一种图像敏感信息识别方法及系统

说明书

一种图像敏感信息识别方法及系统，该方法在监督学习阶段中：通过线下人工标注敏感信息图片得到标记数据，根据所述标记数据进行监督模型训练；在半监督学习阶段中：对未标记数据进行预处理，所述预处理包括弱数据增强和RA增强，通过所述监督模型对弱数据增强后的未标记数据预测得到伪标签；通过所述监督模型对RA增强后的未标记数据预测得到是否敏感的后验概率分布，计算后验概率分布和伪标签的损失，使半监督模型收敛；对收敛后的半监督模型进行线上生产环境部署。本发明不仅利用人工标记的数据，还结合海量无标注数据进行人工智能训练，预测能力强，帮助平台方减轻内容审核压力，降低内容审核成本，提高内容审核效率。

技术领域

本发明涉及互联网审核技术领域，具体涉及一种图像敏感信息识别方法及 系统。

背景技术

目前，泛娱乐行业，图像视频得到了一个飞速的发展，但这也存在着极大 的隐患，不良信息经常混杂在正常的图像视频中传播，造成网络环境的污染， 特别是不利于未成年人的身心健康发展。这种时候就需要利用审核技术将他们 拣选出来，借助人工智能技术，可以帮助平台方减轻进行自动审核。

现有技术中，主流图像审核人工智能主要是监督训练方法，线下对含有敏 感信息的图片进行人工标注，然后用这些含有监督信息的样本指导人工智能模 型进行学习。但是，对于现实生产过程中的海量无标注图片，监督模型无法进 行有效的利用，预测能力差，另外，这些无标注数据中往往比标注数据含有更 丰富的知识，如何融合无标注数据进行图像敏感信息识别是亟待解决的技术问 题。

发明内容

为此，本发明提供一种图像敏感信息识别方法及系统，以解决现有图像审 核人工智能训练无法利用海量无标记数据，预测能力差的问题。

为了实现上述目的，本发明提供如下技术方案：一种图像敏感信息识别方 法，包括监督学习阶段和半监督学习阶段；

所述监督学习阶段中：

通过线下人工标注敏感信息图片得到标记数据，根据所述标记数据进行监 督模型训练；

所述半监督学习阶段中：

对未标记数据进行预处理，所述预处理包括弱数据增强和RA增强，通过 所述监督模型对弱数据增强后的未标记数据预测得到伪标签；通过所述监督模 型对RA增强后的未标记数据预测得到是否敏感的后验概率分布，计算后验概 率分布和伪标签的损失，使半监督模型收敛；对收敛后的半监督模型进行线上 生产环境部署。

作为图像敏感信息识别方法的优选方案，弱数据增强过程，对输入到所述 监督模型的未标记图片随机进行左右或上下翻转；

RA增强过程，对输入到所述监督模型的未标记图片进行几何变形或色彩 变化。

作为图像敏感信息识别方法的优选方案，计算后验概率分布和伪标签的损 失公式为：

公式(1)中，表示总损失函数，表示标注图片的损失函数，表示无标 注图片的损失函数，λ_u表示无标注图片损失的系数；

公式(2)表示损失计算过程，p_b表示标注信息，p_m(y|α(x_b))表示经过弱 数据增强后模型预测的结果，Η表示计算两者交叉熵；

公式(3)表示损失计算过程，(max(q_b)≥τ)表示经过RA增强后的模 型预测伪标注是否大于等于τ，若大于等于τ，无标注样本参与损失计算，若 小于τ，无标注样本不参与损失计算，表示计算伪标签和经 过RA增强后模型预测结果的交叉熵。