[发明专利]语音识别模型的训练方法、语音识别方法和装置有效
申请号: | 202110735675.0 | 申请日: | 2021-06-30 |
公开(公告)号: | CN113362811B | 公开(公告)日: | 2023-03-24 |
发明(设计)人: | 董林昊;梁镇麟;蔡猛;马泽君 | 申请(专利权)人: | 北京有竹居网络技术有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/26 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 曹寒梅 |
地址: | 101299 北京市平*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语音 识别 模型 训练 方法 装置 | ||
1.一种语音识别模型的训练方法,所述语音识别模型包括编码器、预测子模型、语音解码器以及符号解码器,其特征在于,所述方法包括:
根据所述编码器和所述预测子模型,获得训练语音数据对应的字符声学向量,其中,每一所述字符声学向量对应于所述训练语音数据的一个预测字符;
根据所述字符声学向量和所述语音解码器,获得所述预测字符对应的输出文本和语言特征向量;
根据所述字符声学向量、所述语言特征向量和所述符号解码器,确定所述预测字符对应的符号概率分布;
根据所述符号概率分布和所述训练语音数据中所述预测字符对应的目标符号特征,确定目标损失;
在满足更新条件的情况下,根据所述目标损失对所述语音识别模型的模型参数进行更新。
2.根据权利要求1所述的方法,其特征在于,所述目标符号特征为独热编码特征,所述根据所述符号概率分布和所述训练语音数据中所述预测字符对应的目标符号特征,确定目标损失,包括:
根据所述符号概率分布和所述预测字符对应的目标符号特征,确定交叉熵损失;
将确定出的所述交叉熵损失作为所述目标损失。
3.根据权利要求2所述的方法,其特征在于,所述根据所述目标损失对所述语音识别模型的模型参数进行更新,包括:
根据所述目标损失对所述语音识别模型中、所述符号解码器的模型参数进行更新。
4.根据权利要求1所述的方法,其特征在于,所述目标符号特征为独热编码特征,所述根据所述符号概率分布和所述训练语音数据中所述预测字符对应的目标符号特征,确定目标损失,包括:
根据所述符号概率分布和所述预测字符对应的目标符号特征,确定第一交叉熵损失;
根据所述预测字符对应的目标文本与所述输出文本,确定所述语音解码器对应的第二交叉熵损失;
根据所述第一交叉熵损失和所述第二交叉熵损失确定所述目标损失。
5.根据权利要求1-4中任一项所述的方法,其特征在于,通过以下方式确定所述训练语音数据对应的文本中每一字符对应的符号特征:
获取所述训练语音数据对应的包含标点符号的文本数据;
针对所述文本数据中的每一字符,若该字符后相邻存在标点符号,则将该标点符号作为该字符对应的标注符号;若该字符后相邻未存在标点符号,则将预设符号作为该字符对应的标注符号;
针对所述文本数据中的每一字符,根据该字符对应的标注符号与符号空间,生成该字符对应的符号特征。
6.一种语音识别方法,其特征在于,所述方法包括:
接收待识别的语音数据;
根据所述语音数据和语音识别模型,确定所述语音数据对应的待添加的符号和识别文本,其中,所述语音识别模型是基于权利要求1-5中任一项所述的语音识别模型的训练方法进行训练获得的;
在所述待添加的符号为目标符号的情况下,根据所述待添加的符号和所述识别文本生成所述待识别的语音数据对应的文本结果。
7.一种语音识别模型的训练装置,所述语音识别模型包括编码器、预测子模型、语音解码器以及符号解码器,其特征在于,所述装置包括:
第一处理模块,用于根据所述编码器和所述预测子模型,获得训练语音数据对应的字符声学向量,其中,每一所述字符声学向量对应于所述训练语音数据的一个预测字符;
第二处理模块,用于根据所述字符声学向量和所述语音解码器,获得所述预测字符对应的输出文本和语言特征向量;
第一确定模块,用于根据所述字符声学向量、所述语言特征向量和所述符号解码器,确定所述预测字符对应的符号概率分布;
第二确定模块,用于根据所述符号概率分布和所述训练语音数据中所述预测字符对应的目标符号特征,确定目标损失;
更新模块,用于在满足更新条件的情况下,根据所述目标损失对所述语音识别模型的模型参数进行更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京有竹居网络技术有限公司,未经北京有竹居网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110735675.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:绿色环保型液体速凝剂及制备方法
- 下一篇:跑步台及跑步机