[发明专利]一种基于CTC的声学模型训练方法

摘要

本发明提供一种基于CTC的声学模型训练的方法，该方法包括：步骤1、训练一个初始的GMM模型，用该GMM模型对训练数据的文本标注进行时间点强制对齐，得到每个音素所对应的时间区域；步骤2、在每个音素后插入一个与该音素相关的“空白”符号，每个音素拥有一个特有的“空白”符号；步骤3、采用有限状态机，对加入“空白”符号后的音素标注序列构建一个CTC前后向计算的搜索路径图；步骤4、根据时间对齐结果，对每个音素出现的时间范围进行限制，并对该搜索路径图进行剪枝，将音素位置超出时间限制的路径减掉，得到最终CTC计算网络误差时所需的搜索路径图；步骤5、采用延时神经网络(Time‑delay Neural Network,TDNN)结构结合CTC方法进行声学模型训练，得到最终的TDNN‑CTC声学模型。

主权项

1.一种基于CTC的声学模型训练的方法，其特征在于，该方法包括：步骤1、训练一个初始的GMM模型，用该GMM模型对训练数据的文本标注进行时间点强制对齐，得到训练数据的音素标注序列中的每个音素所对应的时间区域；步骤2、在训练数据的音素标注序列中，在每个音素后都插入一个与该音素相关的“空白”符号，则每个音素拥有一个特有的“空白”符号，即“空白”符号的数量与训练数据的音素标注序列中的音素数量相同；步骤3、采用有限状态机，对加入“空白”符号后的音素标注序列构建一个CTC前后向计算的搜索路径图；步骤4、根据步骤1中的时间对齐结果，对每个音素出现的时间范围进行限制，规定每个音素出现的时间在对齐结果中，设置“时间容忍度”参数，即设定每个音素出现时间，并根据这个限制对步骤3中构建的搜索路径图进行剪枝，将音素位置超出时间限制的路径减掉，得到最终CTC计算网络误差时所需的搜索路径图；步骤5、采用延时神经网络结构TDNN，再结合CTC方法进行声学模型训练，得到最终的TDNN‑CTC声学模型，TDNN中采用ReLU作为激活函数；所述ReLU激活函数公式为：g(y)＝max(0，y)其中，g(y)表示经过激活函数之后的神经元节点的值，y表示经过激活函数之前网络的输出的神经元节点的值。