[发明专利]一种针对直播场景视频的内容审核模型训练方法及装置

说明书

本发明涉及视频信息技术领域，尤其涉及一种针对直播场景视频的内容审核模型训练方法及装置，方法包括：通过深度学习算法训练获取的人工标注样本，得到初步模型；计算当前直播场景视频中相邻两帧图片的相似度，将相似度大于预设相似度的两帧图片确定为相似图片，并对相似图片标注相同的标签；利用初步模块对获取的大量未标注样本进行识别，得到标签样本；根据人工标注样本、相似图片的标签和标签样本，训练得到内容审核模型。通过本发明的方法得到的内容审核模型准确率高，审核效果好，而且大大的减少了人工标注样本的需求量，有效的降低成本。

技术领域

本发明涉及视频信息技术领域，尤其涉及一种针对直播场景视频的内容审核模型训练方法及装置。

背景技术

直播场景存在内容安全风险，现有技术一般是利用内容审核模型过滤视频画面，或同时配合审核专员对直播视频进行拦截。其中，内容审核模型的准确率及召回率对内容审核而言十分重要，然而内容审核模型审核效果的好坏依赖于海量的训练样本，需要大量(通常是百万数量级)的人工标注样本。

发明内容

本发明所要解决的技术问题是针对现有技术的不足，提供一种针对直播场景视频的内容审核模型训练方法及装置。

本发明解决上述技术问题的技术方案如下：一种针对直播场景视频的内容审核模型训练方法，包括：

通过深度学习算法训练获取的人工标注样本，得到初步模型；

计算当前直播场景视频中相邻两帧图片的相似度，将相似度大于预设相似度的两帧图片确定为相似图片，并对所述相似图片标注相同的标签；

利用所述初步模块对获取的大量未标注样本进行识别，得到标签样本；

根据所述人工标注样本、所述相似图片的标签和所述标签样本，训练得到内容审核模型。

本发明的有益效果是：利用通过深度学习算法训练人工标注样本得到的初步模型对大量的未标注样本进行识别，得到标签样本，且利用相似度从当前直播场景视频中得到相似图片，并对相似图片标注相同的标签，以便基于人工标注样本、相似图片的标签和标签样本，快速训练得到内容审核模型，通过该方法得到的内容审核模型准确率高，审核效果好，而且大大的减少了人工标注样本的需求量，有效的降低成本。

在上述技术方案的基础上，本发明还可以做如下改进。

进一步地，根据所述人工标注样本、所述相似图片的标签和所述标签样本，训练得到内容审核模型，包括：

通过深度学习算法训练所述人工标注样本、所述相似图片的标签和所述标签样本，得到所述内容审核模型。

采用上述进一步方案的有益效果是：采用深度学习算法训练人工标注样本、相似图片的标签和标签样本，可以更加快速的得到内容审核模型。

进一步地，利用所述初步模块对获取的大量未标注样本进行识别，得到标签样本，包括：

利用所述初步模块对获取的大量未标注样本进行识别，得到多个中间样本，每个所述中间样本具有标签和与所述标签对应的置信度；

将多个所述中间样本中标签的置信度满足预定条件的中间样本确定为所述标签样本。

采用上述进一步方案的有益效果是：通过从利用初步模块对大量未标注样本进行识别得到的多个中间样本中，选择标签的置信度满足预定调节的中间样本作为标签样本，可以使得训练得到的内容审核模型更加准确。

进一步地，所述未标注样本的数量远大于所述人工标注样本的数量，所述标签包括：正常、色情、暴恐和涉政四类。

本发明为了解决上述技术问题还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现上述任一项实施例中的针对直播场景视频的内容审核模型训练方法。