[发明专利]模型训练方法、装置及电子设备

权利要求书

1.一种模型训练方法，包括：

获取语音样本，所述语音样本包括有标签语音样本和无标签语音样本；

利用所述有标签语音样本和所述有标签语音样本的样本标签训练第一初始语音识别模型，得到经训练得到的第一语音识别模型；

将所述有标签语音样本和所述无标签语音样本分别输入所述第一语音识别模型，输出所述语音样本中每条语音样本对应的第一伪标签和第二伪标签，其中，所述第一伪标签为最优解码序列，所述第二伪标签为所述最优解码序列对应的条件后验分布序列；

将每条所述语音样本和每条所述语音样本对应的第一伪标签输入第二初始语音识别模型，输出每条所述语音样本的标签预测概率，以及

计算每条所述语音样本的标签预测概率和所述语音样本中每条语音样本对应的第二伪标签之间的交叉熵损失值，当所述交叉熵损失值满足预设条件时，得到经训练得到的第二语音识别模型。

2.根据权利要求1所述的模型训练方法，其中，将所述有标签语音样本和所述无标签语音样本分别输入所述第一语音识别模型，输出所述语音样本中每条语音样本对应的第一伪标签和第二伪标签，包括：

所述第一语音识别模型利用线束搜索算法输出所述语音样本中每条语音样本对应的第一伪标签；

所述第一语音识别模型利用前缀解码线束输出所述语音样本中每条语音样本对应的第二伪标签，其中，所述前缀解码线束由所述线束搜索算法获得。

3.根据权利要求1所述的模型训练方法，其中，将所述有标签语音样本和所述无标签语音样本分别输入所述第一语音识别模型，输出所述语音样本中每条语音样本对应的第一伪标签和第二伪标签，包括：

所述第一语音识别模型利用线束搜索算法输出所述第一伪标签；

将前缀解码线束输入语言模型，输出所述语音样本中每条语音样本对应的第一初始伪标签；将所述前缀解码线束输入所述第一语音识别模型，输出所述语音样本中每条语音样本对应的第二初始伪标签；将所述第一初始伪标签和所述第二初始伪标签进行加权计算得到所述第二伪标签，其中，所述前缀解码线束由所述线束搜索算法获得。

4.根据权利要求1所述的模型训练方法，其中，将每条所述语音样本输入第二初始语音识别模型前，通过频谱增强对所述语音样本进行干扰。

5.根据权利要求1所述的模型训练方法，其中，将每条所述语音样本输入第二初始语音识别模型前，通过频谱增强和随机丢弃机制对所述语音样本进行干扰。

6.根据权利要求l所述的模型训练方法，其中，利用所述有标签语音样本和所述有标签语音样本的样本标签训练第一初始语音识别模型，得到经训练得到的第一语音识别模型，包括：

将所述有标签语音样本和所述有标签语音样本的样本标签输入所述第一初始语音识别模型，输出所述有标签语音样本的标签预测概率，以及

计算所述有标签语音样本的标签预测概率和所述有标签语音样本的样本标签之间的交叉熵损失值，当所述交叉熵损失值达到所述预设条件时，得到经训练得到的第一语音识别模型。

7.根据权利要求6所述的模型训练方法，其中，将所述有标签语音样本和所述有标签语音样本的样本标签输入所述第一初始语音识别模型，输出所述有标签语音样本的标签预测概率，包括：

利用编码器将所述有标签语音样本映射为第一上下文信息的隐层表示；

将所述第一上下文信息的隐层表示通过注意力机制函数进行加权计算获得第二上下文信息的隐层表示；

利用所述解码器对所述第二上下文信息的隐层表示进行解码，输入所述第二上下文信息和所述有标签语音样本的上一步的标签，获得当前步的输出状态，并将所述当前步的输出状态经过分类层，输出所述有标签语音样本的当前步的标签的预测概率。

8.根据权利要求1所述的模型训练方法，其中，所述第一初始语音识别模型和所述第二初始语音识别模型采用同样的网络模型结构。