[发明专利]基于Bi-LSTM的不良文本检测方法及装置

权利要求书

1.一种基于Bi-LSTM的不良文本检测方法，其特征在于，包括如下步骤：

S0、获取文本数据，并对获取的文本数据进行类型标记；

S1、对所述文本数据进行预处理，组成训练集；

S2、通过所述训练集训练Bi-LSTM双向循环神经网络模型的参数，当所述Bi-LSTM双向循环神经网络模型产生的损失值迭代变化小于设定阈值不再降低，则终止所述Bi-LSTM双向循环神经网络模型的训练，得到训练好的Bi-LSTM双向循环神经网络模型；

S3、将待判定的文本数据预处理后输入所述训练好的Bi-LSTM双向循环神经网络模型，输出判定结果。

2.根据权利要求1所述的基于Bi-LSTM的不良文本检测方法，其特征在于，在所述步骤S0中，通过编写网络爬虫获取Web网页数据，或从已有的数据库中直接获取的方式来获取所述文本数据。

3.根据权利要求1所述的基于Bi-LSTM的不良文本检测方法，其特征在于，所述步骤S1包括：

S11、对所述文本数据进行数据清洗，过滤html标签，保留纯文本信息；

S12、对所述纯文本信息进行调整UTF-8编码、去除非法符号的清洗操作；

S13、对步骤S12处理后的所述纯文本信息进行中文分词、去除停用词、低频词的操作，得到组成所述训练集的纯文本数据。

4.根据权利要求3所述的基于Bi-LSTM的不良文本检测方法，其特征在于，所述步骤S2具体包括：

S21、将所述纯文本数据转换为固定长度的词向量；

S22、将词向量输入到所述Bi-LSTM双向循环神经网络模型的BI-LSTM层，得到所述纯文本数据的前向向量和后向向量；

S23、将所述前向向量和所述后向向量输入到隐藏层，并将得到的隐藏向量拼接后输入到全连接层；

S24、将拼接后的隐藏向量的维度压缩至与检测类别一致的维度，使用Softmax计算每个纯文本数据属于标注的类型的概率；

S25、利用基于熵的损失函数计算损失值，通过Adam优化算法来更新所述Bi-LSTM双向循环神经网络模型的参数，以最小化损失函数来训练模型。

5.根据权利要求4所述的基于Bi-LSTM的不良文本检测方法，其特征在于，通过设置学习率控制所述Bi-LSTM双向循环神经网络模型的参数更新的速度。

6.根据权利要求4所述的基于Bi-LSTM的不良文本检测方法，其特征在于，所述固定长度等于所述Bi-LSTM双向循环神经网络模型中的LSTM层正向的LSTM单元个数。

7.根据权利要求4所述的基于Bi-LSTM的不良文本检测方法，其特征在于，所述最小化损失函数的计算公式如下：

其中，Loss是损失函数值，p(y_i)为纯文本数据x_i通过所述Bi-LSTM双向循环神经网络模型的输出结果的概率，为纯文本数据x_i的实际标记类型的概率，当损失值迭代变化|Loss_i-Loss_i+1|<ε时终止所述Bi-LSTM双向循环神经网络模型的训练。

8.一种基于Bi-LSTM的不良文本检测装置，其特征在于，包括训练模块和检测模块，其中，所述训练模块包括训练数据获取单元、预处理单元和模型训练单元，

所述训练数据获取单元用于获取文本数据，并对获取的文本数据进行类型标记；

所述预处理单元用于对所述文本数据进行预处理，组成训练集；

所述模型训练单元用于通过所述训练集训练Bi-LSTM双向循环神经网络模型的参数，当所述Bi-LSTM双向循环神经网络模型产生的损失值迭代变化小于设定阈值不再降低，则终止所述Bi-LSTM双向循环神经网络模型的训练，得到训练好的Bi-LSTM双向循环神经网络模型；

所述检测模块用于将待判定的文本数据预处理后输入所述训练好的Bi-LSTM双向循环神经网络模型，输出判定结果。