[发明专利]实时文本自动添加标点的方法、模型构建方法及装置

权利要求书

1.一种实时文本自动添加标点模型构建方法，其特征在于，包括：

构造实时文本自动添加标点模型，所述实时文本自动添加标点模型包括标注模型和基于强化学习实现的决策模型，将无标点的实时文本流作为输入流输入所述标注模型，对于所述输入流中当前输入所述标注模型的字符，所述标注模型输出当前字符是否进行标点添加的标注结果，所述决策模型从输入流获取当前字符，根据所述标注模型当前的隐层状态，对所述标注模型输出的当前字符是否进行标点添加的标注结果进行评估，控制是否将当前字符是否进行标点添加的标注结果写入输出流；

以通用长序列加标点数据集作为输入，以所述通用长序列加标点数据集中的每个字符是否进行标点添加的标注结果作为输出，基于机器学习算法，将所述标注模型训练至收敛，以及以包含预设数量个字符-标点对的数据集作为输入，以所述包含预设数量个字符-标点对的数据集中每个字符是否进行标点添加的决策结果作为输出，基于强化学习算法，将所述决策模型训练至收敛，进而获得训练好的实时文本自动添加标点模型；

所述以包含预设数量个字符-标点对的数据集作为输入，以所述包含预设数量个字符-标点对的数据集中每个字符是否进行标点添加的决策结果作为输出，基于强化学习算法，将所述决策模型训练至收敛，包括：

以包含预设数量个字符-标点对的数据集作为输入，以所述包含预设数量个字符-标点对的数据集中每个字符是否进行标点添加的决策结果作为输出，将所述决策模型的参数进行随机初始化，将所述决策模型在包含预设数量个字符-标点对的数据集上进行多次迭代，每次迭代送入一个字符-标点对并计算t时刻的整体奖励r_t，在使得整体奖励r_t最大的方向上对所述决策模型的参数进行更新，最终获得收敛的决策模型。

2.根据权利要求1所述的实时文本自动添加标点模型构建方法，其特征在于，所述标注模型为双层单向LSTM神经网络模型，所述双层单向LSTM神经网络模型包括第一LSTM单元和第二LSTM单元，其中，所述第一LSTM单元的输入端作为所述双层单向LSTM神经网络模型的输入端，所述第一LSTM单元的输出端与所述第二LSTM单元的输入端连接，所述第二LSTM单元的输出端作为所述双层单向LSTM神经网络模型的输出端。