[发明专利]文本处理方法及装置

权利要求书

1.一种文本处理方法，其特征在于，包括：

获取非标准文本，并确定所述非标准文本对应的非标准类别；

根据所述非标准类别，确定正则化模型的模型参数的更新值；

采用所述更新值对所述正则化模型的模型参数的值进行更新，并利用更新后的正则化模型对所述非标准文本进行处理，获得至少一个向量；

根据所述至少一个向量，确定所述非标准文本对应的标准文本。

2.如权利要求1所述的方法，其特征在于，所述至少一个向量包括第一向量和至少一个第二向量，其中，一个第二向量对应所述标准文本中的一个字符位置，所述第二向量用于确定所述标准文本中所述字符位置的字符；

所述第一向量为所述更新后的正则化模型中编码器输出的向量，所述第二向量为所述更新后的正则化模型中解码器输出的向量。

3.如权利要求2所述的方法，其特征在于，所述根据所述至少一个向量，确定所述非标准文本对应的标准文本；

通过神经网络中的线性层和softmax层对所述第二向量进行处理，得到所述第二向量对应的第三向量，所述第三向量用于表示所述第二向量对应的字符位置上的字符为预设词表中各个预设字符的概率；

根据所述第一向量和所述第二向量，获得所述第二向量对应的第四向量，所述第四向量用于表示所述非标准文本中所包含的字符对预测所述第二向量对应的字符位置上的字符的重要程度；

根据所述至少一个第二向量对应的至少一个第三向量和所述至少一个第二向量对应的至少一个第四向量，确定所述非标准文本对应的标准文本，其中，一个第二向量对应一个第三向量，一个第二向量对应一个第四向量。

4.如权利要求3所述的方法，其特征在于，所述根据所述至少一个第二向量对应的至少一个第三向量和所述至少一个第二向量对应的至少一个第四向量，确定所述非标准文本对应的标准文本，包括：

针对所述至少一个第二向量中的每个第二向量，获取所述第二向量对应的权重值；

根据所述第二向量对应的第三向量、所述第二向量对应的第四向量以及所述第二向量对应的权重值，获得所述第二向量对应的字符位置的最终字符；

根据所述至少一个第二向量中每个第二向量对应的最终字符，构建所述非标准文本对应的标准文本。

5.如权利要求4所述的方法，其特征在于，所述获取所述第二向量对应的权重值，包括：

获取所述非标准文本中包含的字符对应的特征向量；

根据所述特征向量和所述第二向量，获得所述第二向量对应的权重值。

6.如权利要求5所述的方法，其特征在于，所述根据所述特征向量和所述第二向量，获得所述第二向量对应的权重值，包括：

根据所述特征向量，获得所述非标准文本对应的上下文向量；

根据所述上下文向量和所述第二向量，获得所述第二向量对应的权重值。

7.如权利要求1-6任一项所述的方法，其特征在于，所述正则化模型为Transformer模型。

8.一种文本处理装置，其特征在于，包括：

获取单元，用于获取非标准文本，并确定所述非标准文本对应的非标准类别；

第一确定单元，用于根据所述非标准类别，确定正则化模型的模型参数的更新值；

模型更新单元，用于采用所述更新值对所述正则化模型的模型参数的值进行更新，并利用更新后的正则化模型对所述非标准文本进行处理，获得至少一个向量；

第二确定单元，用于根据所述至少一个向量，确定所述非标准文本对应的标准文本。

9.一种文本处理装置，其特征在于，包括处理器、存储器以及通信接口，所述处理器、存储器和通信接口相互连接，其中，所述通信接口用于接收和发送数据，所述存储器用于存储程序代码，所述处理器用于调用所述程序代码，执行如权利要求1至7任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行以实现权利要求1至7任一项所述的方法。