[发明专利]语音识别模型训练方法和装置、语音识别方法、介质

权利要求书

1.一种语音识别模型训练方法，用于训练语音识别模型，其特征在于，所述方法包括：

获取语音特征序列和带空白标志的逐帧字母序列；

根据所述语音特征序列生成全局特征序列；

根据所述语音特征序列、所述全局特征序列和所述逐帧字母序列，得到连接时间分类损失函数；

根据所述语音特征序列和所述全局特征序列，得到注意力损失函数；

根据所述连接时间分类损失函数以及所述注意力损失函数对所述语音识别模型的参数进行更新，得到训练完成的语音识别模型。

2.根据权利要求1所述的方法，其特征在于，所述根据所述语音特征序列生成全局特征序列，包括：

所述语音特征序列经过编码器内的若干个卷积增强变换器处理，得到所述全局特征序列，其中，所述卷积增强变换器内设有两个所述前馈模块，且所述卷积增强变换器的卷积层和注意层位于两个所述前馈模块之间。

3.根据权利要求1所述的方法，其特征在于，所述根据所述语音特征序列、所述全局特征序列和所述逐帧字母序列，得到连接时间分类损失函数，包括：

根据概率链规则对所述语音特征序列、所述全局特征序列和所述逐帧字母序列进行条件独立性假设，得到所述语音特征序列与所述全局特征序列的连接时间分类后验分布；

根据所述连接时间分类后验分布，获取连接时间分类目标函数；

根据所述连接时间分类后验分布和所述连接时间分类目标函数，获取连接时间分类损失函数。

4.根据权利要求3所述的方法，其特征在于，所述根据所述连接时间分类后验分布和所述连接时间分类目标函数，获取连接时间分类损失函数，包括：

通过所述连接时间分类目标函数，计算所述连接时间分类后验分布处理所述语音特征序列和所述逐帧字母序列后的序列结果；

求和所述序列结果，得到连接时间分类损失函数。

5.根据权利要求4所述的方法，其特征在于，所述根据所述语音特征序列和所述全局特征序列，得到注意力损失函数，包括：

根据概率链规则对所述语音特征序列和所述全局特征序列进行条件独立性假设，得到所述语音特征序列与所述全局特征序列的注意力后验分布；

根据所述注意力后验分布，计算所述解码器的交叉熵损失；

根据所述编码器和所述解码器之间的相似值，计算第一注意权重；

根据三元组计算第二注意权重，其中，三元组包括开始时间、结束时间和时间跨度；

根据所述第一注意权重与所述第二注意权重，得到附加损失函数；

根据所述交叉熵损失和所述附加损失函数，得到注意力损失函数。

6.根据权利要求5所述的方法，其特征在于，所述根据所述连接时间分类损失函数以及所述注意力损失函数对所述语音识别模型的参数进行更新，得到训练完成的语音识别模型，包括：

加权求和所述连接时间分类损失函数和所述注意力损失函数，得到最终损失函数；

通过梯度更新算法训练所述语音识别模型，并对所述语音识别模型的参数进行更新。

7.一种语音识别方法，其特征在于，所述方法包括：

获取对话系统的当前对话信息；

将所述当前对话信息输入至语音识别模型进行语音识别处理，得到目标对话；其中，所述语音识别模型为根据如权利要求1至6任一项所述的方法训练得到。

8.一种模型训练装置，其特征在于，所述装置包括：

获取模块，用于获取语音特征序列和带空白标志的逐帧字母序列；

生成模块，用于根据所述语音特征序列生成全局特征序列；

处理模块，用于根据所述语音特征序列、所述全局特征序列和所述逐帧字母序列，得到连接时间分类损失函数；根据所述语音特征序列和所述全局特征序列，得到注意力损失函数；

训练模块，用于根据所述连接时间分类损失函数以及所述注意力损失函数对所述语音识别模型的参数进行更新，得到训练完成的语音识别模型。