[发明专利]声学网络模型训练方法、装置及电子设备有效
申请号: | 202010317763.4 | 申请日: | 2020-04-21 |
公开(公告)号: | CN111540344B | 公开(公告)日: | 2022-01-21 |
发明(设计)人: | 张骏;黄露 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/04;G10L15/18;G10L15/183;G06N3/08;G06N3/04 |
代理公司: | 北京竹辰知识产权代理事务所(普通合伙) 11706 | 代理人: | 陈龙 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 声学 网络 模型 训练 方法 装置 电子设备 | ||
1.一种声学网络模型训练方法,其特征在于,包括:
获取用于进行声学网络模型训练的训练样本,所述训练样本中包含一个或多个语音文件;
利用BLSTM网络对所述语音文件中包含的语音进行尖峰检测,以便于基于检测到的尖峰对所述语音文件中包含的字母进行划分,形成分段语音;
基于预先设置CTC分割网络,对所述分段语音进行语义预测,获得文本预测结果;
当所述预测结果满足预设的性能要求之后,停止对所述声学网络模型的训练,以便于利用所述声学网络模型对输入的语音进行文字预测。
2.根据权利要求1所述的方法,其特征在于,所述获取用于进行声学网络模型训练的训练样本,所述训练样本中包含一个或多个语音文件,包括:
基于预先设置的分类,获取多个语音文件;
对所述多个语音文件进行语义标注;
基于标注后的语义文件,形成所述训练样本。
3.根据权利要求1所述的方法,其特征在于,所述利用BLSTM网络对所述语音文件中包含的语音进行尖峰检测,包括:
利用所述BLSTM模型对输入的语音文件进行特征提取;
基于提取到的语音特征,确定所述语音文件中尖峰特征所在的时间点;
将所述时间点作为所述尖峰所在的时间点。
4.根据权利要求1所述的方法,其特征在于,所述基于预先设置CTC分割网络,对所述分段语音进行语义预测,包括:
利用所述CTC分割网络对所述分段语音进行语义解析,以获得解析结果;
基于所述解析结果,预测所述分段语音对应的语义文字。
5.根据权利要求2所述的方法,其特征在于,所述当所述预测结果满足预设的性能要求之后,停止对所述声学网络模型的训练,包括:
获取所述声学网络模型的输出结果;
将所述输出结果与所述语义标注进行比较,形成比较结果;
当所述比较结果满足预设要求时,停止对所述声学网络模型的训练。
6.根据权利要求1所述的方法,其特征在于,所述利用BLSTM网络对所述语音文件中包含的语音进行尖峰检测之前,所述方法还包括:
在随机初始化LSTM网络模型之后,基于设置的与LSTM网络相关的第一训练参数及第二训练参数,利用所述LSTM网络的训练结果,形成用于训练BLSTM网络的损失函数;
在训练所述BLSTM网络的过程中,在逐渐增大所述第一训练参数的值的同时,逐渐减小所述第二训练参数的值;
当所述BLSTM网络输出的性能指标满足预设要求后,停止对所述BLSTM网络的训练,以便于利用所述BLSTM网络对输入的语音文件进行实时的尖峰检测。
7.根据权利要求6所述的方法,其特征在于,所述基于设置的与LSTM网络相关的第一训练参数及第二训练参数,利用所述LSTM网络的训练结果,形成用于训练BLSTM网络的损失函数,包括:
获取所述LSTM网络模型连接的CTC网络的第一输出结果;
将所述第一输出结果与所述第一训练参数的乘积作为所述损失函数的第一组成部分。
8.根据权利要求6所述的方法,其特征在于,所述基于设置的与LSTM网络相关的第一训练参数及第二训练参数,利用所述LSTM网络的训练结果,形成用于训练BLSTM网络的损失函数,包括:
获取所述LSTM网络模型在训练过程中输出的KL散度;
将所述KL散度与所述第二训练参数的乘积作为所述损失函数的第二组成部分。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010317763.4/1.html,转载请声明来源钻瓜专利网。