[发明专利]一种基于深度神经网络的社交网络粤语谣言检测方法

权利要求书

1.一种基于深度神经网络的社交网络粤语谣言检测方法，其特征在于，包括以下步骤：

S1、采用基于Scrapy框架的Web爬虫针对性地获取目标社交网络平台上的粤语微博文数据，并对其进行人工标注，构建包括谣言数据和非谣言数据的粤语谣言数据集；

S2、对粤语谣言数据集中的谣言数据和非谣言数据进行分析，提取得到统计特征；

S3、利用BERT、Bi-LSTM和注意力机制构建基于多特征融合的BLA深度学习模型，并将预处理后的微博文文本和提取到的统计特征输入BLA深度学习模型，输出得到目标社交网络平台上的粤语谣言检测结果；

所述步骤S2中提取得到的统计特征包括用户特征、内容特征、传播特征和评论特征；

所述步骤S3中构建的基于多特征融合的BLA深度学习模型包括依次连接的输入层、特征提取层、特征拼接层、注意力层和输出层；

所述输入层输入预处理后的微博文文本和提取到的统计特征，单条所述预处理后的微博文文本表示为I＝{I₁,I₂,...,I_n}，n为设置的最大博文长度；

所述特征提取层包括语义特征提取模块和统计特征提取模块；

所述语义特征提取模块采用BERT模型作为文本词嵌入提取器，将单条预处理后的微博文文本I＝{I₁,I₂,...,I_n}作为输入进行词嵌入提取，得到词嵌入语义特征W＝{W₁,W₂,...,W_n}，所述词嵌入语义特征W中每个元素W_i均为768维的向量，且词嵌入语义特征W表示为：

W＝BERT(I')

I'＝Tokenize(I)

其中BERT(·)表示BERT模型，Tokenize(·)表示BERT模型中生成Tokenizer的函数，I'表示微博文文本I经过Tokenize(·)函数生成的Tokenizer；

所述语义特征提取模块将提取得到的词嵌入语义特征W＝{W₁,W₂,...,W_n}输入Bi-LSTM网络中，通过其记忆功能进一步学习微博文的上下文特征，输出得到一维的语义特征向量H＝{h₁,h₂,...,h_k}，k为Bi-LSTM网络中隐含节点的个数，语义特征向量H中的元素h_i的计算公式为：

其中LSTM(·)表示LSTM网络函数，表示LSTM网络第i-1个状态产生的后向隐含向量，表示LSTM网络第i+1个状态产生的前向隐含向量，和分别表示LSTM网络第i个状态产生的后向隐含向量和前向隐含向量，⊕表示向量拼接；

所述统计特征提取模块将提取到的统计特征进行归一化处理后，经过BP神经网络的全连接层映射成和语义特征向量具有相同维度的统计特征向量S：

S＝f(w_s·f_s'+b_s)

f_s'＝NORMALIZE(f_s)

f_s＝f_u⊕f_c⊕f_p⊕f_r

其中f_u表示用户特征，f_c表示内容特征，f_p表示传播特征，f_r表示评论特征，f_s表示统计特征，NORMALIZE(·)表示归一化函数，f_s'表示归一化后的统计特征，f(·)表示激活函数，w_s表示训练好的检测模型中的权重矩阵，b_s表示训练好的检测模型中的偏置项；

所述特征拼接层通过Keras拼接技术将语义特征向量H和统计特征向量S拼接得到拼接向量F＝{F₁,F₂,...,F₃₀₀}：

F＝S⊕H

所述注意力层使用注意力机制为不同重要性的特征F_i赋予不同的权重，其表示为：

u_i＝tanh(w_w·F_i+b_w)

其中F_E表示最终判断博文是否为谣言的向量，α_i为拼接向量F中第i个特征F_i的权重，其由Softmax函数实现，u_i为特征F_i的中间隐藏层向量，u_w为一个随机初始化的向量，w_w和b_w分别表示F_i的中间隐藏层的权重矩阵和偏置项；

所述输出层通过Sigmoid函数对最终判断博文是否为谣言的向量F_E进行处理，得到目标社交网络平台上的粤语谣言检测结果p_d：

p_d＝sigmoid(F_E)

其中sigmoid(·)表示Sigmoid函数，p_d＝0表示检测结果为非谣言，p_d＝1表示检测结果为谣言。