[发明专利]一种网络霸凌的检测方法及系统

权利要求书

1.一种网络霸凌的检测方法，其特征在于，包括：

获取待检测的数据集；所述待检测的数据集包括多个用户的多个句子文本；

采用基于双向循环神经网络的分类模型对所述待检测的数据集进行分类，得到每个所述句子文本属于网络霸凌的概率；

获取属于网络霸凌的概率大于设定概率的句子文本，得到第一句子文本集合；

获取所述第一句子文本集合中每个所述句子文本的注意力值和每个用户的注意力值；

根据所述第一句子文本集合中每个所述句子文本的注意力值和每个用户的注意力值，检测每个所述句子文本是否存在网络霸凌情况；之后还包括：

获取存在网络霸凌情况的所有句子文本，得到第二句子文本集合；

利用公式确定所述第二句子文本集合中每个句子文本的霸凌程度；其中，severity为所述句子文本的霸凌程度值，b_att表示所述句子文本的注意力值，p_b表示所述句子文本的用户撰写的所有句子文本的数量，asst_i,att表示所述用户第i个辅助者的句子文本的注意力值，表示所述用户第i个辅助者撰写的所有句子文本的数量。

2.根据权利要求1所述的网络霸凌的检测方法，其特征在于，所述采用基于双向循环神经网络的分类模型对所述待检测的数据集进行分类，得到每个所述句子文本属于网络霸凌的概率，之前还包括：

对所述待检测的数据集中每个所述句子文本进行清洗，去除非字母字符，得到预处理后的文本序列。

3.根据权利要求1所述的网络霸凌的检测方法，其特征在于，所述采用基于双向循环神经网络的分类模型对所述待检测的数据集进行分类，得到每个所述句子文本属于网络霸凌的概率，具体包括：

将所述待检测的数据集输入所述分类模型的嵌入层，对每个所述句子文本进行分词处理，将每个单词转换为词向量，得到每个所述句子文本对应的向量矩阵；

将每个所述句子文本对应的向量矩阵输入所述分类模型的双向循环神经网络层，得到所述句子文本对应的每个词向量在所述双向循环神经网络层中隐含层的输出向量；

将每个词向量在所述双向循环神经网络层中隐含层的输出向量输入所述分类模型的注意力层，得到每个单词的注意力值；

根据每个单词的注意力值，采用归一化处理方法，得到每个句子文本属于网络霸凌的概率。

4.根据权利要求3所述的网络霸凌的检测方法，其特征在于，所述将每个词向量在所述双向循环神经网络层中隐含层的输出向量输入所述分类模型的注意力层，得到每个单词的注意力值，具体包括：

利用公式计算得到每个单词的注意力值；其中，为随机初始化的文本上下文向量，对句子文本S_i进行分词处理，将每个单词转换成词向量，得到所有的词向量序列w_i1，w_i2，…，w_in，为词向量对应的输出向量，为词向量对应的输出向量，T为向量的转置符号。

5.根据权利要求1所述的网络霸凌的检测方法，其特征在于，所述获取所述第一句子文本集合中每个所述句子文本的注意力值和每个用户的注意力值，具体包括：

将所述句子文本中的所有单词的注意力值取平均，得到所述句子文本的注意力值；每个单词的注意力值由所述基于双向循环神经网络的分类模型对所述待检测的数据集进行分类过程中得到；

将所述用户对应的所有句子文本的注意力值取平均，得到所述用户的注意力值。