[发明专利]一种结合上下文语境的视频弹幕文本审核方法及系统

说明书

本发明公开一种结合上下文语境的视频弹幕文本审核方法，所述方法采用多级审核模式，具体包括：敏感词扩展审核、语义分类审核、上下文语境审核，所述上下文语境审核包括上下文视频语境审核和上下文文本语境审核，本发明还公开一种结合上下文语境的视频弹幕文本审核系统，利用本发明公开的方法和系统，审核手段多样化，且结合视频和文本双通道上下文语境信息的多重审核，从而弥补了现有技术不能应对弹幕文本本身信息量不足的缺点，克服了通常方法对视频弹幕文本审核的准确率低的缺陷，确保了视频弹幕文本的审核结果更加准确可靠，故具有明显的技术优势和有益效果。

技术领域

本发明涉及一种文本审核方法，尤其涉及一种结合上下文语境的视频弹幕文本审核方法。

背景技术

信息化时代，网络视频、微博、微信、聊天社区等诸多的网络媒体、社交平台源源不断地产生着多样化的用户交互数据如视频弹幕、评论等，这给有效的信息审核和监管带来了挑战。

在上述文本数据类型中，弹幕文本由于具有长度短、信息量不足等特点，往往会发生同一条视频弹幕文本在不同的上下文语境下所表达的意思完全不同的情况，因此，对于该类型文本的审核显然更加困难且更具挑战性。

目前的视频弹幕文本审核方法通常是直接对视频弹幕文本本身进行审核，显而易见，因上下文语境的缺失通常会导致对于较短的视频弹幕文本不能获得可靠的审核结果。

发明内容

本发明为解决现有技术存在的弹幕文本分析能力的不足，提出一种视频弹幕文本审核的解决方案，目的是增强弹幕文本审核结果的可靠性。

为了实现以上目的，本发明设计了一种结合上下文语境的视频弹幕文本审核方法，所述方法包括：获取待审核的视频弹幕文本作为目标审核文本；敏感词扩展审核步骤：采用分词方法对所述的目标审核文本进行分词处理，获得所述目标审核文本的文本片段列表，将所述文本片段列表与预设的敏感词特征库进行比对匹配，获得匹配结果，匹配成功则所述敏感词扩展审核步骤结束，匹配失败则需继续下一步审核；语义审核步骤：将需要进一步审核的目标审核文本输入训练好的语义分类模型，获得判定结果，根据所述判定结果，为视频弹幕文本增加语义分类标注，根据所述语义分类标注，确定需进一步审核的目标审核文本；上下文语境审核步骤：获取所述目标审核文本的上下文语境信息，基于上下文语境审核对所述的上下文语境信息进行检测分析，获得审核结果。

优选的，所述的上下文语境信息包括：所述视频弹幕文本对应的视频帧的目标结构化信息、场景分类信息，所述视频弹幕文本对应一定时间范围内视频的事件结构化信息，所述视频弹幕文本对应一定时间范围内的弹幕上下文文本的分类信息。

优选的，所述的上下文语境审核包括上下文视频语境审核和上下文文本语境审核，所述上下文视频语境审核基于深度学习方法或传统方法进行，所述上下文文本语境审核基于语义分类方法进行。

优选的，所述的敏感词特征库的构建方法包括：建立原始敏感词库；对所述原始敏感词库的每个敏感词进行变形映射处理，获得各种变形映射结果；将所述各种变形映射结果与所述原始敏感词库进行组合构建出敏感词特征库。

优选的，所述的变形映射处理包括音字混合变形、谐音变形、拼音缩写变形、前后鼻音及平翘舌音变形、反读变形、填字变形、缺字变形、拆解字变形、形近字变形、同义词变形。

优选的，所述的语义分类模型的训练方法包括深度学习方法和传统训练方法，所述深度学习方法包括：TextCNN、TextRNN、BERT、XLNet、RoBERTa、ALBERT等，所述传统训练方法包括逻辑回归、支持向量机。优选地，使用深度学习方法ALBERT。

优选的，所述的语义分类标注包括：“语义正常”、“语义违规”、“语义模糊”。