[发明专利]融入词语信息的中文拼写纠错方法

权利要求书

1.融入词语信息的中文拼写纠错方法，其特征在于包括以下步骤：

步骤一：获取文本纠错数据，所述文本纠错数据包括待检错句子和纠正后句子；

步骤二：对待检错句子进行分词，得到分词结果；

步骤三：将待检错句子和分词结果作为输入，将纠正后句子作为输出，训练纠错模型；

步骤四：利用训练好的纠错模型进行中文拼写纠错；

所述纠错模型为融入词语信息的中文拼写纠错模型，所述融入词语信息的中文拼写纠错模型具体执行如下步骤：

步骤1：利用预训练模型对输入句子中的每个字进行编码，得到字表示；

步骤2：利用双向长短时记忆网络将字表示转换为双向上下文字表示；

步骤3：获取输入句子的分词结果，并依据输入句子的分词结果以及双向上下文字表示得到词表示；

依据输入句子的分词结果以及双向上下文字表示得到词表示具体为：

取出词语中每一个字的双向上下文字表示向量,使用词尾字向量减去词首字向量，所得结果即为词表示；

所述使用词尾字向量减去词首字向量具体为：使用词语中最后进入LSTM的字的隐向量减去词语中最先进入LSTM的字的隐向量；

步骤4：将字表示与词表示进行拼接，得到包含词语信息的字向量；

步骤5：基于包含词语信息的字向量，并通过线性层得到纠错结果。

2.根据权利要求1所述的融入词语信息的中文拼写纠错方法，其特征在于所述分词通过分词模型进行。

3.根据权利要求1所述的融入词语信息的中文拼写纠错方法，其特征在于所述预训练模型为BERT。

4.根据权利要求1所述的融入词语信息的中文拼写纠错方法，其特征在于所述双向上下文字表示为：

{D¹,…,D^t}＝BiLSTM({C¹,…,C^t})

其中，{C¹,…,C^t}为字表示。

5.根据权利要求4所述的融入词语信息的中文拼写纠错方法，其特征在于所述词表示为：

W^k＝D^j-Dⁱ

其中，k为当前词的位置，j为词尾字的位置，i为词首字的位置。

6.根据权利要求5所述的融入词语信息的中文拼写纠错方法，其特征在于所述包含词语信息的字向量表示为：

Eⁱ＝concatanate(W^k+Dⁱ)。

7.根据权利要求6所述的融入词语信息的中文拼写纠错方法，其特征在于所述纠错结果表示为：

{A¹,…,A^k}＝Linear(E¹,…,E^t})。