[发明专利]一种实体识别方法、模型训练方法及装置有效
申请号: | 201911118481.5 | 申请日: | 2019-11-15 |
公开(公告)号: | CN112818689B | 公开(公告)日: | 2023-07-21 |
发明(设计)人: | 黄磊;杨春勇;靳丁南;权圣 | 申请(专利权)人: | 马上消费金融股份有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F16/33;G06F16/332 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 许静;黄灿 |
地址: | 404100 重庆市渝北区*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 实体 识别 方法 模型 训练 装置 | ||
1.一种模型训练方法,其特征在于,包括:
对获取的N个语料进行聚类,得到至少两个聚类簇,其中,N为大于1的整数,所述至少两个聚类簇中不同的聚类簇对应不同的场景;
分别获取所述至少两个聚类簇中每个聚类簇的语料的目标标注信息;
分别根据所述至少两个聚类簇中每个聚类簇的语料及其目标标注信息进行模型训练,得到至少两个实体识别模型;
所述分别获取所述至少两个聚类簇中每个聚类簇的语料的目标标注信息,包括:
通过预设的正则表达式分别匹配出第一聚类簇中每条语料的实体,其中,所述第一聚类簇为所述至少两个聚类簇中任一聚类簇;
分别根据所述第一聚类簇中每条语料的实体生成所述第一聚类簇中每条语料的初始标注信息;
分别对所述第一聚类簇中每条语料的初始标注信息进行校验,得到所述第一聚类簇中每条语料的目标标注信息,其中,所述语料的目标标注信息为所述语料的初始标注信息校验后的标注信息;
所述分别根据所述第一聚类簇中每条语料的实体生成所述第一聚类簇中每条语料的初始标注信息,包括:
若第一语料的实体的数量M超过预设值,则按照预设分组规则将所述第一语料的M个实体分成至少两个实体组,其中,所述第一语料为所述第一聚类簇中的任一语料,所述至少两个实体组中每个实体组的实体数量小于或等于R;
分别根据所述至少两个实体组中每个实体组的实体生成初始标注信息,得到所述第一语料的至少两个初始标注信息,所述第一语料的至少两个初始标注信息中的每个初始标注信息分别用于训练所述第一语料对应的场景所细分的不同场景的实体识别模型。
2.根据权利要求1所述的方法,其特征在于,所述分别根据所述至少两个聚类簇中每个聚类簇的语料及其目标标注信息进行模型训练,得到至少两个实体识别模型,包括:
分别根据所述至少两个聚类簇中每个聚类簇的语料及其目标标注信息,对长短期记忆网络LSTM和条件随机场CRF进行训练,得到至少两个实体识别模型。
3.一种实体识别方法,其特征在于,包括:
获取待识别的目标文本;
确定所述目标文本对应的第一场景;
从预先训练的至少两个实体识别模型中获取与所述第一场景对应的实体识别模型,其中,所述至少两个实体识别模型基于权利要求1至2中任一项所述的模型训练方法训练得到;
将所述目标文本输入与所述第一场景对应的实体识别模型中,得到所述目标文本的实体识别结果;
所述确定所述目标文本对应的第一场景,包括:
对所述目标文本进行意图识别,得到至少两个意图;
将所述至少两个意图中概率值满足预设条件的意图作为所述目标文本对应的第一场景;
所述从预先训练的至少两个实体识别模型中获取与所述第一场景对应的实体识别模型,包括:
若所述第一场景的数量为至少两个,则从所述至少两个实体识别模型中分别获取每个所述第一场景对应的实体识别模型;
所述将所述目标文本输入与所述第一场景对应的实体识别模型中,得到所述目标文本的实体识别结果,包括:
分别将所述目标文本输入每个所述第一场景对应的实体识别模型中,得到每个目标实体识别模型对应的实体识别结果,其中,所述目标实体识别模型为所述第一场景对应的实体识别模型;
将所有所述目标实体识别模型对应的实体识别结果的并集确定为所述目标文本对应的实体识别结果。
4.根据权利要求3所述的方法,其特征在于,所述实体识别模型为基于长短期记忆网络LSTM和条件随机场CRF训练得到的模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于马上消费金融股份有限公司,未经马上消费金融股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911118481.5/1.html,转载请声明来源钻瓜专利网。