[发明专利]一种文本中预测标点的方法和装置

权利要求书

1.一种文本中预测标点的方法，包括，

对带有标点的文本进行预处理，获得训练语料；

利用所述训练语料对预定的训练模型进行训练，得到预测模型；

将待预测的无标点的文本输入所述预测模型，得到预测结果。

2.根据权利要求1所述的方法，其中，

所述对带有标点的文本进行预处理，获得训练语料，包括：

确定需要预测的标点类别；

根据所确定的标点类别，将所述带有标点的文本中包括的标点进行转换后，对转换后的文本进行切分，得到至少一个序列；

将所述至少一个序列添加标点标签后，根据预设规则写入文件，得到所述训练语料。

3.根据权利要求2所述的方法，其中，

所述将所述至少一个序列添加标点标签后，根据预设规则写入文件，得到所述训练语料，包括：

对所述至少一个序列中的每一个序列依次执行如下操作：

给序列中的每一个字符设置标点标签，将该序列中的非标点字符和对应的标签组合，构成该序列对应的带标签行；

将每一个序列对应的带标签行，按照所述预设规则写入文件，得到所述训练语料。

4.根据权利要求3所述的方法，其中，

所述给序列中的每一个字符设置标点标签，包括：

所述标点标签，包括：逗号标签、句号标签和其他标签；

根据所述每一个字符的下一个字符设置所述每一个字符的标点标签，包括：

每一个字符的标点标签默认设置为其他标签；

当所述下一个字符是逗号时，当前字符的标点标签修改为逗号标签；当所述下一个字符是句号时，当前字符的标点标签修改为句号标签；当所述每一个字符为末尾字符时，当前字符的标点标签仍为其他标签。

5.根据权利要求1-4中任一所述的方法，其中，

所述预定的训练模型，包括：

增加有一层全连接层以及条件随机场CRF层的基于Transformer的深度双向语言表征BERT模型；其中，所述全连接层连接BERT模型的输出层，用于把BERT模型的输出向量映射到预先定义的标签集合；所述CRF层连接全连接层的输出。

6.根据权利要求1-4任一所述的方法，其中，

所述将待预测的无标点的文本输入所述预测模型，得到预测结果，包括：

将所述待预测的无标点的文本进行切分，得到至少一个序列；

将所述至少一个序列输入所述预测模型，确定每一个序列中每个字符对应的标点标签；

根据所述每一个序列中每个字符对应的标点标签，合并形成预测后的带标点的文本。

7.根据权利要求6所述的方法，其中，

所述将所述待预测的无标点的文本进行切分，得到至少一个序列，包括：

以字符为单位进行切分，得到所述至少一个序列。

8.根据权利要求2-4任一所述的方法，其中，

所述需要预测的标点类别至少包括：逗号和句号；

所述根据所确定的标点类别，将所述带有标点的文本中包括的标点进行转换，包括：

当所述带有标点的文本中包括的标点在所述带有标点的文本中具有逗号功能时，该标点被替换为逗号；

当所述带有标点的文本中包括的标点在所述带有标点的文本中具有句号功能时，该标点被替换为句号；

当所述带有标点的文本中包括的标点在所述带有标点的文本中既不具有逗号功能也不具有句号功能时，从所述带有标点的文本中删除该标点。

9.根据权利要求3或4所述的方法，其特征在于，

当所述带有标点的文本和所述待预测的无标点的文本包含英语时，所述字符为英语单词。

10.一种文本中预测标点的装置，其特征在于，包括，

语料预处理模块，用于对带有标点的文本进行预处理，获得训练语料；

训练模块，用于利用所述训练语料对预定的训练模型进行训练，得到预测模型；

预测模块，用于将待预测的无标点的文本输入所述预测模型，得到预测结果。