[发明专利]一种基于卷积神经网络的行政违法案由预测方法及工具

权利要求书

1.一种基于卷积神经网络的行政违法案由预测方法，其特征在于，包括：

获取第一预设数量的违法事实，并将所述违法事实转换为违法事实词向量，构建由违法事实词向量组成的训练数据集；

利用卷积神经网络和全连接神经网络构建预测模型，并利用训练数据集中的违法事实词向量对所述预测模型进行训练，得到违法案由识别模型；

其中，所述违法案由识别模型的输入为待识别的违法事实词向量，输出为违法案由预测结果。

2.根据权利要求1所述的方法，其特征在于，所述构建由违法事实词向量组成的训练数据集，包括：

对违法事实进行分词、去停用词处理，将各违法事实句子转换为词汇序列，每个词汇序列包括多个词汇；

以第二预设数量的行政法律法规作为训练样本，训练行政法规词向量，形成词向量字典；

基于所述词向量字典，将所述词汇转换为词向量，形成由违法事实词向量组成的训练数据集。

3.根据权利要求2所述的方法，其特征在于，还包括：

计算所有词汇的词频；

按词频由大到小，对每个词汇序列中的词汇进行排序；

所述将所述词汇转换为词向量，具体为：

将词频排名为前N名的词汇转换为所述词向量字典中对应的词向量。

4.根据权利要求3所述的方法，其特征在于，还包括：

根据各词汇序列的长度，确定一个长度阈值L；

根据所述长度阈值L，将各词汇序列处理为固定长度。

5.根据权利要求4所述的方法，其特征在于，所述将各词汇序列处理为固定长度，包括：

对任一违法事实的词汇序列，若长度大于所述长度阈值L，则截取所述违法事实的前L个词汇；

对任一违法事实的词汇序列，若长度等于所述长度阈值L，则不做处理；

对任一违法事实的词汇序列，若长度小于所述长度阈值L，则用特定值进行补充。

6.根据权利要求5所述的方法，其特征在于，还包括：

词频排名为前N名之后的词汇不转换为词向量，使用固定值M组成的向量来表示；和/或，

使用特定值进行补充的词汇不转换为词向量，使用固定值M组成的向量来表示。

7.根据权利要求1所述的方法，其特征在于，所述利用训练数据集中的违法事实词向量对所述预测模型进行训练，包括：

以违法事实词向量作为卷积神经网络的输入，创建卷积神经网络的输入层；

确定卷积核的长度、高度、以及卷积核的个数，构建卷积神经网络的卷积层；

构建卷积神经网络的池化层，对多个卷积核的计算结果，进行池化处理；

将池化后的结果进行归一化处理；

将归一化处理后的结果作为全连接层的输入，利用softmax函数得到违法案由的预测结果。

8.根据权利要求2所述的方法，其特征在于，所述对违法事实进行分词、去停用词处理，包括：

筛选掉数字、单字、标点符号。

9.根据权利要求1所述的方法，其特征在于，还包括：

对获取到的违法事实，剔除掉字数少于预设字数的违法事实；和/或，

预测模型训练结束后，观察预测结果的精确率和F1值，达到预设性能后，将模型存储为违法案由识别模型。

10.一种基于卷积神经网络的行政违法案由预测工具，其特征在于，包括：

构建模块，用于获取第一预设数量的违法事实，并将所述违法事实转换为违法事实词向量，构建由违法事实词向量组成的训练数据集；

训练模块，用于利用卷积神经网络和全连接神经网络构建预测模型，并利用训练数据集中的违法事实词向量对所述预测模型进行训练，得到违法案由识别模型；

其中，所述违法案由识别模型的输入为待识别的违法事实词向量，输出为违法案由预测结果。