[发明专利]实体链接模型的训练方法、装置及电子设备在审
申请号: | 201910678070.5 | 申请日: | 2019-07-25 |
公开(公告)号: | CN110472239A | 公开(公告)日: | 2019-11-19 |
发明(设计)人: | 韦晓琳;张松国;欧贫扶;李智文;马镇涛 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F16/35;G06K9/62 |
代理公司: | 44232 深圳市隆天联鼎知识产权代理有限公司 | 代理人: | 刘抗美<国际申请>=<国际公布>=<进入 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 链接 实体特征 损失函数 训练样本 器官 公共特征 自然语言处理技术 电子设备 模型参数 特征提取 信息处理 | ||
本公开涉及自然语言处理技术领域,提供了一种实体链接模型的训练方法、装置,以及电子设备。其中,该方法包括:确定关于病症实体的第一训练样本,以及确定关于器官实体的第二训练样本;基于实体链接模型,对第一训练样本和第二训练样本进行特征提取,得到关于病症实体和器官实体的公共特征、病症实体特征和器官实体特征;根据公共特征和病症实体特征确定第一损失函数,以及根据公共特征和器官实体特征确定第二损失函数;根据第一损失函数和第二损失函数确定实体链接模型的模型参数,得到训练后的结合病症和器官的实体链接模型。通过本技术方案训练得到的实体链接模型的信息处理效率高。
技术领域
本公开涉及自然语言处理的技术领域,具体而言,涉及一种实体链接模型的训练方法、多任务实体链接模型的训练装置,以及实现上述实体链接模型的训练方法的电子设备。
背景技术
自然语言的处理过程中经常会遇到表达多样性问题和歧义性问题。其中,表达多样性问题是指,对于同一语义具有不同种表达的文本表达方式。歧义性问题是指,同一种表达方式可能具有多种不同的语义。
为了解决自然语言处理过程中的上述问题,实体链接技术应运而生。具体的,实体链接是指将自然语言中的文本与知识库中的条目进行链接。例如,在智能问答系统中,根据用户输入的咨询问题,通过实体链接技术获取与上述咨询问题关联度较高的相关实体,进一步将相关实体作为对用户的应答输出给用户。
相关技术中,通过训练某一任务a的实体链接模型A,进而用户可以基于训练后的实体链接模型A,获取其咨询关于任务a的答复。进一步地,还可以通过训练另一任务b的实体链接模型B,从而用户可以基于训练后的实体链接模型B,获取其咨询关于任务b的答复。
然而,相关技术提供的实体链接模型的信息处理效率较低。
需要说明的是,上述背景技术部分公开的信息仅用于加强对本公开的背景的理解。
发明内容
本公开的目的在于提供一种实体链接模型的训练方法及装置,以及实现上述实体链接模型的训练方法的电子设备,进而至少在一定程度上提高实体链接模型的信息处理效率。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的一个方面,提供一种实体链接模型的训练方法,包括:确定关于病症实体的第一训练样本,以及确定关于器官实体的第二训练样本;基于实体链接模型,对上述第一训练样本和上述第二训练样本进行特征提取,得到关于病症实体和器官实体的公共特征、病症实体特征和器官实体特征;根据上述公共特征和上述病症实体特征确定第一损失函数,以及根据上述公共特征和上述器官实体特征确定第二损失函数;以及,根据上述第一损失函数和上述第二损失函数确定上述实体链接模型的模型参数,得到训练后的结合病症和器官的实体链接模型。
在本公开的一些实施例中,基于前述方案,上述确定关于病症实体的第一训练样本,以及确定关于器官实体的第二训练样本,包括:根据病症相关的第一语句获取病症实体正样本和病症实体负样本;获取上述第一语句的字向量和词向量、上述病症实体正样本的字向量和词向量以及上述病症实体负样本的字向量和词向量,得到上述第一训练样本;根据器官相关的第二语句获取器官实体正样本和器官实体负样本;以及,获取上述第二语句的字向量和词向量、上述器官实体正样本的字向量和词向量以及上述器官实体负样本的字向量和词向量,得到上述第二训练样本。
在本公开的一些实施例中,基于前述方案,上述根据病症相关的第一语句获取病症实体正样本和病症实体负样本,包括:从预设的实体库中获取与上述第一语句相关的病症实体,得到上述病症实体正样本;以及,从上述实体库中获取与上述病症实体正样本相似度小于第一阈值的实体,得到上述病症实体负样本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910678070.5/2.html,转载请声明来源钻瓜专利网。