[发明专利]一种基于双向LSTM、CNN和CRF的中文分词方法

权利要求书

1.一种基于双向LSTM、CNN和CRF的中文分词方法，其特征在于，具体步骤如下：

步骤1，对初始语料进行预处理，提取语料的字符特征信息及对应的拼音特征信息，并对初始语料进行标注，得到带标注的文本、标注表、字符表和字母表；

步骤2，将步骤1中字母表中的每个字母随机初始化为向量形式，利用卷积神经网络CNN对字母向量进行特征提取，得到拼音特征信息向量；具体为：

2.1，将步骤1字母表中的每个字母随机初始化为向量形式；

2.2，每个字符对应的拼音向量矩阵为：其中，c_l为字符对应的拼音中第l个字母对应的向量；L为预设固定值；

2.3，将步骤2.2得到的拼音向量矩阵输入卷积神经网络CNN中进行特征提取，得到拼音特征信息向量，其中，卷积神经网络CNN包括一个大小为3×3的卷积核构成的卷积层和一个2×2的池化层；

步骤3，对步骤1中的字符特征信息，利用word2vec模型进行预训练，得到字符特征信息向量；

步骤4，将步骤2得到的拼音特征信息向量和步骤3得到的字符特征信息向量进行拼接，得到上下文信息向量；

步骤5，将步骤4得到的上下文信息向量输入双向LSTM神经网络中进行训练，得到语义信息特征；

步骤6，利用线性链条件随机场对步骤5中得到的语义信息特征进行标注，得到中文分词标注序列；

步骤7，对步骤6中得到的中文分词标注序列进行解码，得到中文分词结果。

2.根据权利要求1所述的一种基于双向LSTM、CNN和CRF的中文分词方法，其特征在于，步骤1具体为：

1.1，提取初始语料中的单个字符信息作为语料的字符特征信息，并对每个字符按序进行编号构成字符表；

1.2，将步骤1.1中的每个字符转换为相应的拼音形式作为语料的拼音特征信息，并对拼音中的字母去重后按序编号构成字母表；

1.3，采用BMEO标注集以对初始语料进行标注，得到带标注的文本；并对BMEO标注集按序编号，构成标注表。

3.根据权利要求1所述的一种基于双向LSTM、CNN和CRF的中文分词方法，其特征在于，步骤2.2中：若字符对应的拼音长度L′小于L，则将对应拼音向量矩阵中的第L′+1～L行元素置零。

4.根据权利要求1所述的一种基于双向LSTM、CNN和CRF的中文分词方法，其特征在于，步骤4具体为：将步骤2得到的拼音特征信息向量x_c和步骤3得到的字符特征信息向量x_p进行拼接，得到上下文信息向量x＝[x_c，x_p]。