[发明专利]一种辱骂内容识别方法及装置、服务器

说明书

本申请实施例公开了一种辱骂内容识别方法及装置、服务器，包括：判断评论文本中的多个评论词是否包含辱骂文本库中的任一辱骂关键字；若评论文本包含任一辱骂关键字，则提取评论文本的语义特征矩阵；根据评论文本的语义特征矩阵计算得到评论文本的辱骂概率；根据评论文本的语义特征矩阵和第一权重向量，得到评论文本的负面情感概率；根据辱骂概率以及负面情感概率，确定评论文本是否为辱骂评论文本。采用本申请，可以提高辱骂内容的识别准确率。

技术领域

本申请涉及计算机技术领域，尤其涉及一种辱骂内容识别方法及装置、服 务器。

背景技术

目前，辱骂内容识别的方案主要是利用文本分类模型来对辱骂内容进行识 别，其中，文本分类模型常用的算法包括fasttext、textcnn和lstm等相关算法， 但在常见社交场景下，相同的辱骂关键词，如猪，就有多种表达方式，并且， 表达的辱骂含义也不一致，例如，傻猪猪真可爱，这种表达方式并不具有辱骂 含义，反而是一种亲昵的表达方式，如果利用文本分类模型来对辱骂内容进行 识别，会出现辱骂内容误判的情况，导致辱骂内容的识别准确率不高。

申请内容

本申请实施例提供一种辱骂内容识别方法及装置、服务器、存储介质，以 期提高辱骂内容的识别准确率。

本申请实施例一方面提供了一种辱骂内容识别方法，包括：

判断评论文本中的多个评论词是否包含辱骂文本库中的任一辱骂关键字；

若所述评论文本包含所述任一辱骂关键字，则提取所述评论文本的语义特 征矩阵；

根据所述评论文本的语义特征矩阵计算得到所述评论文本的辱骂概率；

根据所述评论文本的语义特征矩阵和第一权重向量，得到所述评论文本的 负面情感概率，其中，所述第一权重向量是基于第一样本评论集合以及所述第 一样本评论集合中每一条评论文本对应的情感分类标签训练得到，所述第一权 重向量包括所述多个评论词中每个评论词的情感分类权重；

根据所述辱骂概率以及所述负面情感概率，确定所述评论文本是否为辱骂 评论文本。

可选的，所述根据所述评论文本的语义特征矩阵和第一权重向量，得到所 述评论文本的负面情感概率，包括：

根据所述评论文本的语义特征矩阵和第一权重向量，得到所述评论文本的 第一文本特征向量；

将所述第一文本特征向量转化为概率序列，得到所述评论文本的负面情感 概率。

可选的，所述提取评论文本的语义特征，包括：

根据所述评论文本中每个评论词在所述评论文本中的出现顺序，对所述每 个评论词的初始词向量进行排序，得到所述评论文本的初始矩阵；

根据所述评论文本的初始矩阵和输入权重矩阵，得到所述评论文本的文本 矩阵，其中，所述输入权重矩阵包括预设长度个预先训练的输入权重列向量；

对所述文本矩阵进行特征提取，得到所述评论文本的语义特征矩阵。

可选的，所述根据所述评论文本的初始矩阵和输入权重矩阵，得到所述评 论文本的文本矩阵之前，包括：

对第二样本评论集合中每一条评论文本中每个评论词的初始词向量进行排 序，得到所述每一条评论文本的初始矩阵，进而得到所述第二样本评论集合的 初始矩阵，其中，所述第二样本评论集合包括评论文本a_i，所述评论文本a_i包括 目标评论词b_j，其中，i为小于或等于所述第二样本评论集合对应的评论文本总 数的正整数，j为小于或等于所述评论文本a_i对应的评论词总数的正整数；