[发明专利]一种基于HLSTM模型的声学建模方法和装置

权利要求书

1.一种基于直连长短时记忆HLSTM模型的声学建模方法，其特征在于，该方法包括：

基于预设函数对已随机初始化的HLSTM模型进行训练，并对训练结果进行优化；

将训练数据通过经所述优化得到的HLSTM模型进行前向计算；

基于所述前向计算的结果和所述预设函数，训练已随机初始化的长短时记忆LSTM模型，得到的模型为语音识别系统的声学模型；

其中，所述HLSTM模型与所述LSTM模型的网络参数相同。

2.根据权利要求1所述的方法，其特征在于，所述基于预设函数对已随机初始化的HLSTM模型进行训练，并对训练结果进行优化，包括：

采用交叉熵目标函数训练已随机初始化的HLSTM模型；

依据状态级最小贝叶斯风险准则优化经所述训练得到的HLSTM模型。

3.根据权利要求2所述的方法，其特征在于，所述交叉熵目标函数为：

其中，所述F_CE表示交叉熵目标函数；所述为t时刻的语音特征在y状态输出点的标注值；所述p(y|X_t)为神经网络t时刻的语音特征，对应y状态点的输出；所述X表示训练数据；所述S为输出状态点的数目，所述N为语音特征总时长。

4.根据权利要求2所述的方法，其特征在于，所述状态级最小贝叶斯风险准则对应的目标函数为：

其中，所述W_u为语音的标注文本；所述W与W'均为种子模型的解码路径对应的标注；所述p(O_u|S)为声学似然概率；所述A(W,W_u)代表解码状态序列中正确状态标注的数目；所述种子模型为：所述优化后得到的HLSTM模型；所述u代表训练数据中语句编号的索引，所述k为声学得分系数，所述O_u为第u句语料的语音特征，所述S表示解码路径的状态序列，所述P(W)与P(W')均为语言模型概率得分。

5.根据权利要求1-4中任一项所述的方法，其特征在于，所述HLSTM模型的网络层数大于等于所述LSTM模型的网络层数。

6.根据权利要求3所述的方法，其特征在于，所述基于所述前向计算的结果和所述预设函数，训练已随机初始化的LSTM模型，包括：

获取所述前向计算得到的每帧的输出结果；

基于所述每帧的输出结果和交叉熵目标函数，训练已随机初始化的LSTM模型；其中，所述交叉熵目标函数中的为所述前向计算得到的每帧输出结果。

7.一种基于直连长短时记忆HLSTM模型的声学建模装置，其特征在于，该装置包括：

HLSTM模型处理模块，用于基于预设函数对已随机初始化的HLSTM模型进行训练，并对训练结果进行优化；

计算模块，用于将训练数据通过经所述优化得到的HLSTM模型进行前向计算；

LSTM模型处理模块，用于基于所述前向计算的结果和所述预设函数，训练已随机初始化的长短时记忆LSTM模型，得到的模型为语音识别系统的声学模型；

其中，所述HLSTM模型与所述LSTM模型的网络参数相同。

8.根据权利要求7所述的装置，其特征在于，所述HLSTM模型处理模块包括：

第一训练单元，用于采用交叉熵目标函数训练已随机初始化的HLSTM模型；

优化单元，用于依据状态级最小贝叶斯风险准则优化经所述训练得到的HLSTM模型。

9.根据权利要求8所述的装置，其特征在于，所述交叉熵目标函数为：

其中，所述F_CE表示交叉熵目标函数；所述为t时刻的语音特征在y状态输出点的标注值；所述p(y|X_t)为神经网络t时刻的语音特征，对应y状态点的输出；所述X表示训练数据；所述S为输出状态点的数目，所述N为语音特征总时长。