[发明专利]一种标点预测模型训练方法及文本标点确定方法

权利要求书

1.一种标点预测模型训练方法，其特征在于：包括以下步骤：

(1)获取用于标点预测模型训练的分字文本训练集；

(2)利用数据增强方法从分字文本训练集中生成训练样本；

(3)输入标点预测模型，通过训练样本，获取训练好的标点预测模型；

所述步骤(1)，分为以下步骤：

(1.1)获取原始训练文本语料，对原始训练文本语料进行预处理，获取预处理后的训练文本语料；

(1.2)对预处理后的训练文本语料进行分字处理，获取分字后的训练文本语料；

(1.3)对分字后的训练文本语料中的每个文字的标签类型进行标注，获取训练目标标签集合；

(1.4)获取训练目标标签集合中各个标签的权重值；

(1.5)去掉分字后的训练文本语料中的标点，并与训练目标标签集合组成分字文本训练集；

所述步骤(2)，分为以下步骤：

(2.1)每次生成训练样本时，在1到500产生一个随机整数作为训练样本的最少字数；

(2.2)获取步骤(1)中分字文本训练集的一个完整句子作为种子句子，将种子句子的下一个句子拼接到种子句子的后面，作为新的种子句子，直到新的种子句子的文字数量不小于步骤(2.1)中的最少字数，获取最终的种子句子；

(2.3)获取最终的种子句子在步骤(1.3)中的训练目标标签集合中对应的标签序列，将最终的种子句子与标签序列作为利用数据增强方法生成的训练样本。

2.如权利要求1所述的标点预测模型训练方法，其特征在于：所述步骤(1.4)，分为以下步骤：

(1.4.1)获取步骤(1.3)中，训练目标标签集合中各个标签的数量；

(1.4.2)将训练目标标签集合中标签‘0’的数量与各个标签数量的比值作为各个标签的权重值。

3.如权利要求2所述的标点预测模型训练方法，其特征在于：所述标签‘0’表示，在步骤(1.2)中，分字后的训练文本语料中的文字的后面不是标点。

4.如权利要求1所述的标点预测模型训练方法，其特征在于：所述步骤(3)，分为以下步骤：

(3.1)利用标点预测模型获取步骤(2)中训练样本的各个文字的编码特征向量；

(3.2)根据文字的编码特征向量，通过标点预测模型获取各个文字的标签得分向量；

(3.3)根据所述标签得分向量和步骤(1.4)的标签权重值，获取标点预测模型的损失函数值；

(3.4)根据损失函数值，调整标点预测模型的权重参数，直到损失函数值达到指定阈值，获取训练后的标点预测模型。

5.一种文本标点确定方法，其特征在于：包括以下步骤：

(1)获取无标点的目标文本；

(2)对无标点的目标文本进行分字处理，获取目标文本中每个文字后面的预测标点；

(3)将预测标点插入目标文本中对应文字的后面，获取标点确定的目标文本。

6.如权利要求5所述的文本标点确定方法，其特征在于：所述步骤(2)，分为以下步骤：

(2.1)对无标点的目标文本进行分字处理，获取分字处理后的目标文本；

(2.2)根据权利要求1-4任意一项所述的标点预测模型训练方法的标点预测模型，获取分字处理后的目标文本中的每个文字的特征编码向量；

(2.3)根据每个文字的特征编码向量，并利用标点预测模型，获取每个文字的标签得分向量；

(2.4)根据标签与标点的映射关系，获取每个文字的标签得分向量中得分最高的标签对应的标点，将所述标点作为目标文本中文字后面的预测标点。