[发明专利]一种基于机器学习的视频内容审核方法及装置

权利要求书

1.一种基于机器学习的视频内容审核方法，其特征在于，包括：

提取待审核的视频资源中的视频信息、音频信息和文本信息；

通过经过训练的卷积神经网络对所述视频信息进行违规内容识别处理，以及通过经过训练的循环神经网络分别对所述音频信息和所述文本信息进行违规内容识别处理，判断所述视频信息、所述音频信息和所述文本信息中是否包含违规内容；

如果所述视频信息、所述音频信息或所述文本信息中包含违规内容，则确认并输出所述视频信息、所述音频信息或所述文本信息中包含的违规内容类型。

2.根据权利要求1所述的方法，其特征在于，该方法还包括：

当确认所述视频信息、所述音频信息或所述文本信息中包含违规内容时，确认并输出违规内容在所述待审核的视频资源中的时间位置。

3.根据权利要求1所述的方法，其特征在于，通过经过训练的卷积神经网络对所述视频信息进行违规内容识别处理，判断所述视频信息中是否包含违规内容，包括：

将所述视频信息划分为多个视频帧；

通过经过训练的卷积神经网络分别对所述多个视频帧进行违规内容识别处理，分别判断每个视频帧中是否包含违规内容；

如果任意一个视频帧中包含违规内容，则确认所述视频信息中包含违规内容。

4.根据权利要求1至3中任一权利要求所述的方法，其特征在于，对所述卷积神经网络的训练过程，包括：

循环执行以下操作，直到计算得到的代价值小于设定阈值；

将已经标注违规内容类型的图像输入卷积神经网络，使所述卷积神经网络按照预设的参数识别所述图像中的违规内容；

将所述卷积神经网络识别的违规内容类型，与标注的违规内容类型进行对比，得到所述卷积神经网络进行违规内容识别的代价值；

判断得到的代价值是否小于设定阈值；

如果得到的代价值不小于设定阈值，则根据计算得到的代价值，调整所述卷积神经网络识别图像中的违规内容的参数。

5.根据权利要求1至3中任一权利要求所述的方法，其特征在于，对所述循环神经网络的训练过程，包括：

循环执行以下操作，直到计算得到的代价值小于设定阈值；

将已经标注违规内容类型的音频和/或文本输入循环神经网络，使所述循环神经网络按照预设的参数识别所述音频和/或文本中的违规内容；

将所述循环神经网络识别的违规内容类型，与标注的违规内容类型进行对比，得到所述循环神经网络进行违规内容识别的代价值；

判断得到的代价值是否小于设定阈值；

如果得到的代价值不小于设定阈值，则根据计算得到的代价值，调整所述循环神经网络识别音频和/或文本中的违规内容的参数。

6.一种基于机器学习的视频内容审核装置，其特征在于，包括：

信息提取单元，用于提取待审核的视频资源中的视频信息、音频信息和文本信息；

内容识别单元，用于通过经过训练的卷积神经网络对所述视频信息进行违规内容识别处理，以及通过经过训练的循环神经网络分别对所述音频信息和所述文本信息进行违规内容识别处理，判断所述视频信息、所述音频信息和所述文本信息中是否包含违规内容；

输出单元，用于当所述视频信息、所述音频信息或所述文本信息中包含违规内容时，确认并输出所述视频信息、所述音频信息或所述文本信息中包含的违规内容类型。

7.根据权利要求6所述的装置，其特征在于，所述输出单元还用于：

当确认所述视频信息、所述音频信息或所述文本信息中包含违规内容时，确认并输出违规内容在所述待审核的视频资源中的时间位置。