[发明专利]模型训练方法、命名实体识别方法、装置、设备及介质在审
申请号: | 201910542994.2 | 申请日: | 2019-06-21 |
公开(公告)号: | CN110276075A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 张国校 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F16/35 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 命名实体 语句 训练样本 候选项 类别标签 模型训练 实体分类 上下文信息 训练样本集 高关联性 结束条件 预测 准确率 申请 输出 帮助 | ||
1.一种模型训练方法,其特征在于,包括:
获取训练样本集,所述训练样本集中的训练样本包括训练语句及所述训练语句中的实体对应的类别标签;
将所述训练样本输入命名实体识别模型,获得所述命名实体识别模型基于所述训练语句中实体的上下文信息输出的所述训练语句中实体的预测类别;
根据所述训练语句中实体的预测类别和类别标签,调整所述命名实体识别模型的参数直到满足训练结束条件。
2.根据权利要求1所述的方法,其特征在于,所述命名实体识别模型包括输入层、特征提取层以及输出层,其中,
所述特征提取层用于通过多层双向注意力机制网络学习所述训练语句中实体的上下文信息得到所述训练语句中各个词位的编码表示,并向所述输出层输入初始词位的编码表示和/或实体词位的编码表示。
3.根据权利要求1所述的方法,其特征在于,所述命名实体识别模型是根据基于变换器的双向编码表示框架构建的。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述方法还包括:
从语料库中获取训练语料;
识别所述训练语料得到实体候选项,根据所述训练语料以及针对所述训练语料中实体候选项的标注信息生成第一训练样本,所述第一训练样本至少包括负样本,所述标注信息包括所述实体候选项是否属于命名实体,以及所述实体候选项为命名实体时所对应的类别标签;
从知识库中获取实体类型以及所述实体类型对应的实体实例,根据所述训练语料、所述实体类型以及所述实体类型对应的实体实例生成第二训练样本,所述第二训练样本包括正样本;
根据所述第一训练样本和所述第二训练样本生成所述训练样本集。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
按照所述实体候选项在所述语料库的出现频率对所述实体候选项降序排序;
根据排序结果选择排序靠前的N个实体候选项作为种子候选项,所述N为正整数;
所述根据所述训练语料以及针对所述训练语料中实体候选项的标注信息生成第一训练样本包括:
根据所述训练语料以及针对所述训练语料中种子候选项的标注信息生成第一训练样本。
6.根据权利要求4所述的方法,其特征在于,通过如下方式判断所述实体候选项是否属于命名实体:
获取参考命名实体,所述参考命名实体所属领域与所述实体候选项所属领域不同;
根据所述实体候选项与所述参考命名实体的相似度确定所述实体候选项是否属于命名实体。
7.一种命名实体识别方法,其特征在于,包括:
获取待识别语句;
将所述待识别语句输入命名实体识别模型,获得所述命名实体识别模型基于所述待识别语句中实体的上下文信息确定的所述实体以及所述实体的预测类别。
8.根据权利要求7所述的方法,其特征在于,所述获取待识别语句包括:
从评论系统中爬取评论语句作为待识别语句;
在确定所述评论语句中的实体以及所述实体的预测类别之后,所述方法还包括:
根据所述预测类别的分布情况确定实体类别关注热点;
根据所述实体类别关注热点进行信息推送。
9.一种模型训练装置,其特征在于,所述装置包括:
第一获取模块,用于获取训练样本集,所述训练样本集中的训练样本包括训练语句及所述训练语句中的实体对应的类别标签;
第二获取模块,用于将所述训练样本输入命名实体识别模型,获得所述命名实体识别模型基于所述训练语句中实体的上下文信息输出的所述训练语句中实体的预测类别;
训练模块,根据所述训练语句中实体的预测类别和类别标签,调整所述命名实体识别模型的参数直到满足训练结束条件。
10.一种命名实体识别装置,其特征在于,所述装置包括:
获取模块,用于获取待识别语句;
识别模块,用于将所述待识别语句输入命名实体识别模型,获得所述命名实体识别模型基于所述待识别语句中实体的上下文信息确定的所述实体以及所述实体的预测类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910542994.2/1.html,转载请声明来源钻瓜专利网。