[发明专利]基于双向LSTM-CRF的缅甸语分词及词性标注方法及装置

权利要求书

1.基于双向LSTM-CRF的缅甸语分词及词性标注方法，其特征在于：

所述基于双向LSTM-CRF的缅甸语分词及词性标注方法的具体步骤如下：

Step1、缅甸语预处理进行词向量表征：利用BERT结合缅甸语词语上下文中的音节信息，生成基于音节切分的词向量表示；

Step2、采用双向LSTM对词向量表示后的缅甸语进行编码训练，提取缅甸语分词的特征，利用CRF对全局缅甸语单词进行分词标记，训练缅甸语分词模型并得到缅甸语分词最优模型；利用缅甸语预训练好的分词最优模型，对输入的缅甸语句子进行预测，得到全局最优解预测输出缅甸语分词结果；

Step3、采用双向LSTM对上述分词后的缅甸语进行编码训练，提取缅甸语词性标注的特征，利用CRF对全局缅甸语单词进行词性标记，训练缅甸语词性标记模型并得到缅甸语词性标记最优模型；利用缅甸语预训练好的词性标记最优模型，对输入的缅甸语句子进行预测，得到全局最优解预测输出缅甸语词性标注结果。

Step4、通过调用已训练好的分词或词性标注模型，对输入的向量化后的缅甸语句子进行分词、词性标记预测。

2.根据权利要求1所述的基于双向LSTM-CRF的缅甸语分词及词性标注方法，其特征在于：所述步骤Step1的具体步骤为：

Step1.1、通过亚洲语言树库网站获取到分好词的缅甸语句子；

Step1.2、利用缅甸语音节切分工具将分好词的缅甸语句子的单词按照音节切分单词；

Step1.3、利用BERT预训练缅甸语基于音节切分的词向量表示。

3.根据权利要求2所述的基于双向LSTM-CRF的缅甸语分词及词性标注方法，其特征在于：所述步骤Step1.3的具体步骤为：

Step1.3.1、将获得的20106句缅甸语句子进行去重切分成70002个缅甸语单词，通过调用BERT的多语言模型，直接生成具有上下文信息的768维的缅甸语词向量表示；

Step1.3.2、再将音节切分后的缅甸语单词生成词向量表示；

Step1.3.3、最后，将两者进行拼接，获得具有缅甸语音节信息的词向量表征。

4.根据权利要求1所述的基于双向LSTM-CRF的缅甸语分词及词性标注方法，其特征在于：所述步骤Step2的具体步骤为：

Step2.1、利用双向LSTM对缅甸语基于音节向量生成的缅甸语分词特征进行提取，得到完整的双向LSTM表示；

Step2.2、利用CRF对全局缅甸语单词进行分词标记，训练缅甸语分词模型并得到缅甸语分词最优模型；利用缅甸语预训练好的分词最优模型，对输入的缅甸语句子进行预测，得到全局最优解预测输出缅甸语分词结果。

5.根据权利要求4所述的基于双向LSTM-CRF的缅甸语分词及词性标注方法，其特征在于：所述步骤Step2.1的具体步骤为：

Step2.1.1、以句子为单位，将一个含有i个词语的缅甸语句子进行向量化表示记作：X＝(x₁,x₂,x₃,x₄,...,)；

Step2.1.2、正向LSTM输出的隐状态序列与反向LSTM的在各个位置输出的隐状态进行按位置拼接得到一个完整的隐状态序列：h_t＝[h_t；h_t]∈R^n×m，得到一个完整的缅甸语分词序列的双向LSTM表示。