[发明专利]一种用于语音识别的Ngram模型改进方法

权利要求书

1.一种用于语音识别的Ngram模型改进方法，其包括如下步骤：

步骤S101：将用于语音识别的原始Ngram模型转成等价的WFSA网络NET1；

步骤S102：利用RNN优化所述NET1，使得使用所述NET1对训练文本打分时，对于训练文本中每个语句的输出概率最大化；

步骤S103：利用发音字典将所述NET1转成带有语言模型概率的WFST发音网络NET2；

步骤S104：利用音子混淆矩阵优化所述发音网络NET2，使得句子错

误率最小化；

步骤S105：将所述发音网络NET2反向转换成改进后的Ngram模型。

2.如权利要求1所述的用于语音识别的Ngram模型改进方法，其特征在于：

所述NET1中的状态数目等于所述原始Ngram的所有元组数目加1，其中所述NET1中的状态包括初始状态和对应所述原始Ngram中每一个元组的状态；

如果原始Ngram模型中概率P(w_n|w₁w₂..w_n-1)存在，则在所述NET1中状态w₁w₂..w_n-1到状态w₁w₂..w_n-1wn之间必定有一条弧连接，且该弧上的输入为字符串w_n，该弧上的权重为LnP(w_n|w₁w₂..w_n-1)，其为所述概率P(w_n|w₁w₂..w_n-1)的对数值；在所述NET1中，除了初始状态之外，每一个状态w_iw_i+1..w_j都还具有一条回退弧，其对应所述原始Ngram模型中相应元组的回退概率B(w_iw_i+1..w_j)，该回退弧从状态w_iw_i+1..w_j指向状态w_i+1..w_j，弧上的输入为空，弧上的权重等于LnB(w_iw_i+1..w_j)，其为所述回退概率B(w_iw_i+1..w_j)的对数值。

3.如权利要求2所述的用于语音识别的Ngram模型改进方法，其特征在于：所述将用于语音识别的Ngram模型转成等价的WFSA网络NET1具体包括：

步骤S201：正规化所述原始Ngram模型；

步骤S202：创建空状态esp作为初始的NET1。

步骤S203：在所述NET1中，为每个所述原始Ngram模型中的1元组Unigram创建相应的Unigram状态；从所述esp状态到所述Unigram状态添加前向弧，弧上的输入为所述原始Ngram模型中的1元组Unigram对应的字符串，权重为所述原始Ngram模型中的1元组Unigram对应的概率的对数值；从每个所述原始Ngram模型中的1元组Unigram状态到所述esp状态添加回退弧，弧上的输入为空，权重为所述原始Ngram模型中的1元组Unigram对应的回退概率的对数值；

步骤S204：在所述NET1中为每个2元组及2元组以上的高元组k-gram创建相应的k-gram状态；并在所述NET1中寻找所述高元组k-gram中的前k-1个词构成的k-1元组(k-1)-prefix-gram对应的(k-1)-prefix-gram状态，并添加从(k-1)-prefix-gram状态到k-gram状态的前向弧，弧的输入为所述高元组k-gram对应的词组中的最后一个词，权重为所述高元组k-gram的概率的对数值；然后在所述NET1中寻找所述高元组k-gram对应的后k-1个词构成的k-1元组(k-1)-subfix-gram对应的(k-1)-subfix-gram状态，添加从k-gram状态到(k-1)-subfix-gram状态的回退弧，弧的输入为空，权重为所述高元组k-gram的回退概率的对数值；其中k的取值范围是2＜＝k＜＝N的整数，N是所述原始Ngram模型的阶数。