[发明专利]端到端语音转写模型的训练方法、系统、装置有效
申请号: | 201910958727.3 | 申请日: | 2019-10-10 |
公开(公告)号: | CN110689879B | 公开(公告)日: | 2022-02-25 |
发明(设计)人: | 陶建华;田正坤;易江燕 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G10L15/14 | 分类号: | G10L15/14;G10L15/16;G10L15/06;G10L15/02;G10L15/26;G10L25/24 |
代理公司: | 北京市恒有知识产权代理事务所(普通合伙) 11576 | 代理人: | 郭文浩;尹文会 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于电子信号处理技术领域,具体涉及一种端到端语音转写模型的训练方法、系统、装置,旨在解决端到端语音转写模型无法很好的学习语音数据的对齐信息的问题。本系统方法包括提取语音训练数据的特征,得到语音特征序列;通过GMM‑HMM模型对语音特征序列进行强制对齐,得到对齐标注,并对各帧语音特征进行拼接;基于拼接后的语音特征序列和文本标注训练数据,对端到端语音转写模型进行训练,得到预设词表中每个词的概率分布及负对数损失值;获取对齐损失值;将对齐损失值和负对数损失值进行加权平均,得到联合损失值,并通过后向传播算法更新模型的参数;迭代训练模型。本发明能够准确的学习语音数据的对齐信息。 | ||
搜索关键词: | 端到端 语音 转写 模型 训练 方法 系统 装置 | ||
【主权项】:
1.一种端到端语音转写模型的训练方法,其特征在于,该方法包括以下步骤:/n步骤S100,获取语音训练数据和对应的文本标注训练数据,并提取所述语音训练数据的特征,得到语音特征序列;/n步骤S200,通过GMM-HMM模型对所述语音特征序列进行强制对齐,得到帧级别的对齐标注,并对所述语音特征序列中各帧语音特征进行拼接处理;/n步骤S300,基于拼接处理后的语音特征序列和所述文本标注训练数据,通过端到端语音转写模型获取预设词表中每个词的概率分布;并根据所述概率分布通过前向-后向算法得到负对数损失值;/n步骤S400,基于所述对齐标注和所述概率分布,获取对齐损失值;/n步骤S500,对所述对齐损失值和所述负对数损失值进行加权平均,得到联合损失值,并根据所述联合损失值通过后向传播算法更新所述端到端语音转写模型的参数;/n步骤S600,循环执行步骤S300-S500,直至达到预设的训练结束条件,得到训练好的端到端语音转写模型。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910958727.3/,转载请声明来源钻瓜专利网。