[发明专利]模型训练方法、装置、电子设备和存储介质有效
申请号: | 202010496550.2 | 申请日: | 2020-06-03 |
公开(公告)号: | CN111832613B | 公开(公告)日: | 2022-03-15 |
发明(设计)人: | 张辽;付晓寅;蒋正翔;梁鸣心;张奇 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06K9/62 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 王萌 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 装置 电子设备 存储 介质 | ||
1.一种模型训练方法,所述模型为smlta声学模型,包括:
获取第一训练样本库和第二训练样本库,其中,所述第一训练样本库为非成熟语音产品的经过标注的音频数据,所述第二训练样本库为通过数据挖掘的方式获取的大量的音频数据或其他成熟语音产品的有标注的音频数据;
根据所述第一训练样本库和所述第二训练样本库分别生成第一至第N训练样本集合,其中,N为大于1的正整数;
获取所述第一至第N训练样本集合之中的第i训练样本集合,其中,i为小于或等于N的正整数;
通过所述第i训练样本集合对待训练模型进行训练,以生成预测分布,其中,所述预测分布中包括所述第i训练样本集合中每个训练样本的预测结果;
根据所述预测分布和标注分布判断是否满足训练要求,其中,所述标注分布为所述第i训练样本集合中各个训练样本对应的标注数据;
如果满足所述训练要求,则结束训练;以及
如果未满足所述训练要求,则通过第i+1训练样本集合继续对所述待训练模型继续训练,直至满足所述训练要求;
其中,所述第二训练样本库通过以下步骤生成:
通过网络爬虫获取多个多媒体资料;
根据关键字列表对所述多个多媒体资料进行筛选;以及
将筛选之后的多媒体资料添加至所述第二训练样本库。
2.如权利要求1所述的模型训练方法,其中,所述根据所述预测分布和所述标注分布判断是否满足训练要求,包括:
根据所述预测分布和所述标注分布计算交叉熵;以及
根据所述交叉熵判断是否满足训练要求。
3.如权利要求2所述的模型训练方法,通过以下公式计算所述交叉熵:
o=-∑xp(x)log(q(x)),
其中,o为所述交叉熵,x为所述第i训练样本集合,p(x)为所述标注分布,q(x)表示预测分布。
4.如权利要求2所述的模型训练方法,其中,所述根据所述交叉熵判断是否满足训练要求,包括:
获取第i-1训练样本集合的第i-1交叉熵;
获取所述第i训练样本集合的第i交叉熵和所述第i-1交叉熵之间的差值;以及
如果所述差值小于预设阈值,则判断满足所述训练要求。
5.如权利要求1所述的模型训练方法,其中,所述根据所述第一训练样本库和所述第二训练样本库分别生成第一至第N训练样本集合,包括:
从所述第一训练样本库提取第一候选样本集合;
从所述第二训练样本库提取第二候选样本集合;
计算所述第二候选样本集合之中每个候选样本的置信度;
根据所述第二候选样本集合之中每个候选样本的置信度对所述第二候选样本集合之中的候选样本进行筛选;
根据所述第一候选样本集合和筛选之后的所述第二候选样本集合生成第一训练样本集合;以及
重复上述步骤,直至生成所述第N训练样本集合。
6.如权利要求1所述的模型训练方法,其中,所述第二训练样本库的样本量大于所述第一训练样本库的样本量。
7.如权利要求1所述的模型训练方法,其中,所述第二训练样本库为无标注样本库,所述第一训练样本库为有标注样本库。
8.如权利要求1所述的模型训练方法,所述第一至第N训练样本集合之中的样本数量依次降低。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010496550.2/1.html,转载请声明来源钻瓜专利网。