[发明专利]一种自动违规弹幕检测方法、装置、系统、介质及设备

说明书

本申请公开了一种自动违规弹幕检测方法、装置、系统、介质及设备，属于及网络视频领域。主要包括，获取至少一条弹幕内容以及与至少一条弹幕内容相关的相关视频内容；利用文本编码器根据至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据相关视频内容生成视频编码特征代表向量；利用多模态融合器对文本编码特征代表向量以及视频编码特征代表向量进行融合生成融合编码特征向量；以及，利用结果预测器根据融合编码特征向量对至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。本申请能够自动结合文本信息和视频信息对弹幕是否包含违规内容做出正确的判断。

技术领域

本申请涉及网络视频领域，特别涉及一种自动违规弹幕检测方法、装置、系统、介质及设备。

背景技术

观众观看网络视频时对交互性、娱乐性的要求越来越高，因此不少视频门户加入了“弹幕”功能。所谓弹幕，就是在观看视频的任何时间点，发表简短的感想、评论，之后，该评论就会出现在视频中，其他观众也能看到。弹幕极大增强了观众之间的互动，拉近了观众与视频制作者的距离。

然而，由于当前弹幕不受任何限制，观众可以发表任何性质、内容的弹幕，如与视频内容无关的弹幕，甚至是一些违规的，比如包括色情、造谣、辱骂等内容的弹幕，这就导致了大部分观众在观看视频时，会受到少部分此类弹幕的干扰，严重影响观看体验。另一方面，尽管视频门户网站的管理员具有权限删除、屏蔽弹幕，但是每天成千上万的新视频，海量的弹幕使得管理员人工删除所有违规弹幕成为不可能实现的事情。。

发明内容

针对现有技术存在的问题，本申请主要提供一种自动违规弹幕检测方法、装置、系统、介质及设备，通过将文本特征和视频特征进行融合之后，利用预测器根据融合特征进行预测，能够自动结合文本信息和视频信息对弹幕的内容是否违规做出正确的判断。

为了实现上述目的，本申请采用的一个技术方案是：提供一种自动违规弹幕检测方法，其包括：

获取至少一条弹幕内容以及与至少一条弹幕内容相关的相关视频内容；利用文本编码器根据至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据相关视频内容生成视频编码特征代表向量；利用多模态融合器对文本编码特征代表向量以及视频编码特征代表向量进行融合生成融合编码特征向量；以及，利用结果预测器根据融合编码特征向量对至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。

本申请采用的另一个技术方案是：提供一种自动违规弹幕检测装置，其包括：

内容获取模块，用于获取至少一条弹幕内容以及与至少一条弹幕内容相关的相关视频内容；代表向量生成模块，用于利用文本编码器根据至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据相关视频内容生成视频编码特征代表向量；融合模块，用于利用多模态融合器对文本编码特征代表向量以及视频编码特征代表向量进行融合生成融合编码特征向量；以及，检测模块，用于利用结果预测器根据融合编码特征向量对至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。

本申请采用的另一个技术方案是，一种自动违规弹幕检测系统，包括文本编码器、视频编码器、多模块融合器、结果预测器以及上述的自动违规弹幕检测装置。

本申请采用的另一个技术方案是：一种计算机可读存储介质，其存储有计算机指令，其特征在于，计算机指令被操作以执行上述方案中的自动违规弹幕检测方法。

本申请采用的另一个技术方案是：一种计算机设备，其包括处理器和存储器，存储器存储有计算机指令，该计算机指令被操作以执行上述方案中的一种自动违规弹幕检测方法。

本申请的技术方案可以达到的有益效果是：本申请设计一种自动违规弹幕检测方法、装置、系统、介质及设备。本申请通过将文本特征和视频特征进行融合，利用预测器根据融合后的特征进行预测，能够自动结合文本信息和视频信息对弹幕是否包含违规内容做出正确的判断，从而即时自动对弹幕进行选择保留、屏蔽或过滤等操作，大大减少审核时间。