[发明专利]模型训练方法、语音识别方法、装置、存储介质及设备在审
申请号: | 201911267662.4 | 申请日: | 2019-12-11 |
公开(公告)号: | CN110930996A | 公开(公告)日: | 2020-03-27 |
发明(设计)人: | 唐浩雨 | 申请(专利权)人: | 广州市百果园信息技术有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/16;G10L15/26 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 511400 广东省广州市番*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 语音 识别 装置 存储 介质 设备 | ||
1.一种声学神经网络模型的训练方法,其特征在于,包括:
将当前采样时刻对应的第一语音训练样本输入至第一声学神经网络模型中,得到所述当前采样时刻对应的至少两个第一损失函数;
分别确定所述至少两个第一损失函数相对于上一个采样时刻的变化程度信息;
根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,并基于所述至少两个第一损失函数与对应的权重计算拟合损失函数;
利用所述拟合损失函数对所述第一声学神经网络模型进行反向传播,得到第二声学神经网络模型,以实现对所述第一声学神经网络模型的训练。
2.根据权利要求1所述的方法,其特征在于,所述根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,包括:
根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,以使得对于所述至少两个第一损失函数中的任意两个第一损失函数来说,变化程度较大的第一损失函数对应的第一权重小于变化程度较小的第一损失函数对应的第二权重。
3.根据权利要求2所述的方法,其特征在于,所述至少两个第一损失函数分别对应的权重的和为1。
4.根据权利要求3所述的方法,其特征在于,所述根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,包括:
采用预设分类函数对至少两个变化程度信息进行多分类处理,得到所述至少两个第一损失函数分别对应的权重。
5.根据权利要求4所述的方法,其特征在于,所述预设分类函数为归一化指数函数。
6.根据权利要求1所述的方法,其特征在于,所述第一声学神经网络模型基于编码-注意力-解码结构构建。
7.根据权利要求6所述的方法,其特征在于,所述至少两个第一损失函数包括连接时序分类CTC损失函数和注意力ATT损失函数。
8.根据权利要求1所述的方法,其特征在于,所述变化程度信息包括:第一损失函数与上一个采样时刻对应的第二损失函数的比值。
9.根据权利要求1所述的方法,其特征在于,所述基于所述至少两个第一损失函数与对应的权重计算拟合损失函数,包括:
根据所述至少两个第一损失函数对应的权重对所述至少两个第一损失函数进行加权求和,得到拟合损失函数。
10.一种语音识别方法,其特征在于,包括:
获取待识别的语音信息;
将所述语音信息输入至预设声学神经网络模型中,其中,所述预设声学神经网络模型采用如权利要求1-9任一所述的方法训练得到;
根据所述预设声学神经网络模型的输出结果对所述语音信息中的语音内容进行识别。
11.根据权利要求10所述的方法,其特征在于,所述语音信息来源于视频直播应用程序;在所述根据所述预设声学神经网络模型的输出结果对所述语音信息中的语音内容进行识别之后,还包括:
基于所识别出来的语音内容对所述语音信息进行监管。
12.一种声学神经网络模型的训练装置,其特征在于,包括:
训练样本输入模块,用于将当前采样时刻对应的第一语音训练样本输入至第一声学神经网络模型中,得到所述当前采样时刻对应的至少两个第一损失函数;
变化程度确定模块,用于分别确定所述至少两个第一损失函数相对于上一个采样时刻的变化程度信息;
拟合损失函数计算模块,用于根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,并基于所述至少两个第一损失函数与对应的权重计算拟合损失函数;
模型训练模块,用于利用所述拟合损失函数对所述第一声学神经网络模型进行反向传播,得到第二声学神经网络模型,以实现对所述第一声学神经网络模型的训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州市百果园信息技术有限公司,未经广州市百果园信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911267662.4/1.html,转载请声明来源钻瓜专利网。