[发明专利]语音文本的校正方法和装置

权利要求书

1.一种生成文本校正模型的方法，所述文本校正模型用于校正语音文本中的新词识别错误，所述方法包括：

获取特定领域的新词和包括新词的新词文本(11)；

根据新词文本生成训练文本(12)；

利用所述训练文本和掩码语言模型对基于Transformer的语言模型进行训练，生成文本校正模型(13)，

其中，根据新词文本生成训练文本(12)的步骤包括：

将新词文本切分成多个token；

将新词文本中的新词的token替换为掩码token。

2.根据权利要求1所述的方法，其特征在于，利用训练文本和掩码语言模型对基于Transformer的语言模型进行训练，生成文本校正模型(13)的步骤包括：

利用基于Transformer的语言模型计算训练文本中每个掩码token的可能值的几率；

利用交叉熵作为反向传播算法的损失函数，更新基于Transformer的语言模型的参数。

3.根据权利要求1所述的方法，其特征在于，根据新词文本生成训练文本(12)的步骤还包括，从新词文本中选取一定比例的非新词的token并将其替换成掩码token。

4.根据权利要求2所述的方法，其特征在于，所述损失函数为：

其中|W|表示掩码token的可能值；若k为真则y_k值为1，否则y_k值为0；p_k表示基于Transformer的语言模型预测掩码token为k的机率。

5.一种语音文本的校正方法，包括：

获取语音文本(21)；

利用权利要求1至4中任一项所述的方法生成的文本校正模型对语音文本进行校正(23)。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括，对语音文本进行错误检测以获得可疑字段(22)。

7.根据权利要求6所述的方法，其特征在于，对语音文本进行错误检测以获得可疑字段(22)的步骤包括：

根据发音将语音文本转换为拼音；

在语音文本中搜索与新词拼音的相似度大于预定阈值的字段作为可疑字段，其中相似度由编辑距离表示。

8.根据权利要求6所述的方法，其特征在于，利用文本校正模型对语音文本进行校正(23)的步骤包括：

利用文本校正模型计算可疑字段的合理性几率；

利用文本校正模型计算可疑字段的替换字段的合理性几率，替换字段选自新词；

根据可疑字段的合理性几率与替换字段的合理性几率的关系，确定是否将可疑字段校正为替换字段。

9.根据权利要求8所述的方法，其特征在于，可疑字段的合理性几率以及替换字段的合理性几率是通过以下公式计算得到的：

其中，N表示可疑字段或替换字段，n_k表示字段N的第k字；|N|表示字段的长度；P(n_k)表示文本校正模型预测的字段N的第k字为n_k的机率。

10.根据权利要求9所述的方法，其特征在于，根据可疑字段的合理性几率与替换字段的合理性几率的关系，确定是否将可疑字段校正为替换字段的步骤包括：

若可疑字段的合理性几率小于替换字段的合理性几率，则将语音文本中的可疑字段校正为替换字段。