[发明专利]语音信号处理模型训练方法、装置、电子设备及存储介质有效
申请号: | 201711191604.9 | 申请日: | 2017-11-24 |
公开(公告)号: | CN109841220B | 公开(公告)日: | 2022-09-13 |
发明(设计)人: | 陈联武;于蒙;罗敏;苏丹 | 申请(专利权)人: | 深圳市腾讯计算机系统有限公司 |
主分类号: | G10L17/04 | 分类号: | G10L17/04;G10L17/18;G06N3/04;G06N3/08 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518000 广东省深圳市南*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语音 信号 处理 模型 训练 方法 装置 电子设备 存储 介质 | ||
1.一种语音信号处理模型训练方法,其特征在于,包括:
获取样本语音,确定样本语音的各语音信号处理任务的任务输入特征;
根据各语音信号处理任务的训练损失函数,确定目标训练损失函数;
将样本语音的各语音信号处理任务的任务输入特征,作为待训练的多任务神经网络的训练输入,以最小化目标训练损失函数为训练目标,对待训练的多任务神经网络的共享层和各任务层的参数进行更新,直至待训练的多任务神经网络收敛,得到语音信号处理模型;其中,所述待训练的多任务神经网络包括:共享层,和各语音信号处理任务对应的任务层;
确定语音信号处理模型的各任务层对待识别语音的输出结果;
将各任务层对待识别语音的输出结果,作为相应的语音信号处理任务的任务处理结果,或,使用各任务层对待识别语音的输出结果,辅助相应的语音信号处理任务进行任务处理。
2.根据权利要求1所述的语音信号处理模型训练方法,其特征在于,所述以最小化目标训练损失函数为训练目标,对待训练的多任务神经网络的共享层和各任务层的参数进行更新包括:
对于所述共享层,以最小化目标训练损失函数为训练目标,根据目标训练损失函数,对共享层的参数进行更新;及对于任一语音信号处理任务对应的任务层,以最小化目标训练损失函数为训练目标,根据该语音信号处理任务的训练损失函数,对该语音信号处理任务的任务层的参数进行更新。
3.根据权利要求1或2所述的语音信号处理模型训练方法,其特征在于,所述待训练的多任务神经网络包括:第一多任务神经网络;所述方法还包括:
从语音信号处理过程的多个语音信号处理任务中,确定至少一个第一类语音信号处理任务;
确定样本语音的第一类语音信号处理任务的任务输入特征;
根据第一类语音信号处理任务的训练损失函数,确定第一目标训练损失函数;
将样本语音的第一类语音信号处理任务的任务输入特征,作为初始的多任务神经网络的训练输入,以最小化第一目标训练损失函数为训练目标,对初始的多任务神经网络的共享层和第一类语音信号处理任务对应的任务层的参数进行更新,直至初始的多任务神经网络收敛,得到第一多任务神经网络。
4.根据权利要求3所述的语音信号处理模型训练方法,其特征在于,所述根据第一类语音信号处理任务的训练损失函数,确定第一目标训练损失函数包括:
对于任一第一类语音信号处理任务,将该第一类语音信号处理任务的训练损失函数,乘以该第一类语音信号处理任务相应的权重,得到该第一类语音信号处理任务的相乘结果,以确定出各第一类语音信号处理任务的相乘结果;
将各第一类语音信号处理任务的相乘结果相加,得到第一目标训练损失函数。
5.根据权利要求4所述的语音信号处理模型训练方法,其特征在于,所述从语音信号处理过程的多个语音信号处理任务中,确定至少一个第一类语音信号处理任务包括:
确定所述多个语音信号处理任务中的基本任务,将所述基本任务确定为第一类语音信号处理任务,所述基本任务为所述多个语音信号处理任务中,相对于其他的语音信号处理任务具有辅助效果的任务;
或,将所述多个语音信号处理任务中,训练复杂度高于设定的复杂度阈值的语音信号处理任务,确定为第一类语音信号处理任务。
6.根据权利要求3所述的语音信号处理模型训练方法,其特征在于,所述样本语音的第一类语音信号处理任务的任务输入特征包括:多份任务输入特征;一份任务输入特征所包含的特征数量为至少一个;
所述将样本语音的第一类语音信号处理任务的任务输入特征,作为初始的多任务神经网络的训练输入,以最小化第一目标训练损失函数为训练目标,对初始的多任务神经网络的共享层和第一类语音信号处理任务对应的任务层的参数进行更新,直至初始的多任务神经网络收敛,得到第一多任务神经网络包括:
根据样本语音的第一类语音信号处理任务的多份任务输入特征,分多个训练阶段递进的对初始的多任务神经网络进行训练,得到第一多任务神经网络;其中,一个训练阶段使用样本语音的第一类语音信号处理任务的一份任务输入特征作为训练输入,且以最小化第一目标训练损失函数为训练目标。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市腾讯计算机系统有限公司,未经深圳市腾讯计算机系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711191604.9/1.html,转载请声明来源钻瓜专利网。