[发明专利]用于问答匹配的神经网络模型的训练方法和装置有效
申请号: | 201910507153.8 | 申请日: | 2019-06-12 |
公开(公告)号: | CN110427466B | 公开(公告)日: | 2023-05-26 |
发明(设计)人: | 马良庄 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/0455;G06N3/047;G06F16/332;G06F16/35 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 孙欣欣;周良玉 |
地址: | 开曼群岛大开曼岛*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本说明书实施例提供一种用于问答匹配的神经网络模型的训练方法和装置,方法包括:获取样本集合中的各用户问句以及各用户问句对应的分类标签;利用已训练的第一神经网络模型,预测各用户问句在各分类上的第一概率得分;利用待训练的第二神经网络模型,预测各用户问句在各分类上的第二概率得分,第二神经网络模型的层数小于第一神经网络模型的层数;根据第二概率得分和第一概率得分,得到第一损失函数;根据第二概率得分和各用户问句的分类标签,得到第二损失函数;将第一损失函数与第二损失函数组合为总损失函数;根据总损失函数,训练第二神经网络模型,能够在准确识别用户问句的基础上,降低资源消耗,提升处理速度。 | ||
搜索关键词: | 用于 问答 匹配 神经网络 模型 训练 方法 装置 | ||
【主权项】:
1.一种用于问答匹配的神经网络模型的训练方法,所述方法包括:获取样本集合中的各个用户问句以及各个用户问句对应的分类标签;利用已训练的第一神经网络模型,预测各个用户问句在各个分类上的第一概率得分,其中所述第一神经网络模型的层数为N;利用待训练的第二神经网络模型,预测各个用户问句在各个分类上的第二概率得分,其中,所述第二神经网络模型的层数为M,M<N;根据所述第二概率得分和所述第一概率得分,得到第一损失函数;根据所述第二概率得分和各个用户问句的分类标签,得到第二损失函数;将所述第一损失函数与所述第二损失函数进行组合,得到总损失函数;根据所述总损失函数,对所述第二神经网络模型进行训练,得到初步训练的第二神经网络模型。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910507153.8/,转载请声明来源钻瓜专利网。