[发明专利]命名实体标注方法、装置、计算机设备和存储介质在审
申请号: | 202010333674.9 | 申请日: | 2020-04-24 |
公开(公告)号: | CN111651992A | 公开(公告)日: | 2020-09-11 |
发明(设计)人: | 陈桢博;金戈;徐亮 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 命名 实体 标注 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及人工智能领域,提供一种命名实体标注方法及相关设备,包括:构建简历文本中语句的字向量;通过TextCNN模型的多层卷积层对字向量进行多层卷积运算,得到字向量矩阵;对字向量矩阵进行计算,得到查询向量、键向量、值向量;从而计算得到语句中的每两个字符之间的注意力权重矩阵,并基于值向量对进行调整;基于字向量矩阵、调整后的注意力权重矩阵,通过全连接层处理后输入至融合高斯误差的softmax分类层中进行分类,得到语句中的每个字符的第一命名实体标注。本申请增强了捕获局部上下文的能力。此外,本申请还涉及区块链领域,简历文本可存储于区块链中。
技术领域
本申请涉及分类模型的技术领域,特别涉及一种命名实体标注方法、装置、计算机设备和存储介质。
背景技术
命名实体识别(Named Entity Recognition,NER)任务主要是识别出对应文本中出现的人名、地名、机构名等专有名称并加以归类,它是信息抽取、信息检索、问答系统等多种自然语言处理任务的基础。例如,在简历识别场景中,通常需要识别简历文本中的校名、地名等命名实体。
命名实体标注任务是命名实体识别中的必要过程,其是指对文本中每个字符进行分类标注处理的过程。传统的深度学习方法虽然有较好的效果,但是由于对所有语句中的长距离特征都赋予相同的特征权重进行模型运算,所以在短距离关键特征的识别精度上达不到理想的效果。
发明内容
本申请的主要目的为提供一种命名实体标注方法、装置、计算机设备和存储介质,克服命名实体标注时在短距离关键特征的识别精度不高的缺陷。
为实现上述目的,本申请提供了一种命名实体标注方法,包括以下步骤:
获取简历文本中的语句,并构建所述语句的字向量;
通过预先训练得到的TextCNN模型的多层卷积层对所述字向量进行多层卷积运算,得到字向量矩阵;
基于所述TextCNN模型的全连接层,对所述字向量矩阵进行计算,得到查询向量、键向量、值向量;
根据所述查询向量、键向量,并结合高斯偏差矩阵,计算得到所述语句中的每两个字符之间的注意力权重矩阵,并基于所述值向量对所述注意力权重矩阵进行调整;
基于所述字向量矩阵、调整后的所述注意力权重矩阵,通过所述TextCNN模型进行全连接层处理后再输入至融合高斯误差的softmax分类层中进行分类,得到所述语句中的每个字符的第一命名实体标注。
进一步地,所述基于所述TextCNN模型的全连接层,对所述字向量矩阵进行计算,得到查询向量、键向量、值向量的步骤,包括:
基于所述TextCNN模型的全连接层中预先训练得到的查询向量计算参数,对所述字向量矩阵进行计算,得到所述查询向量;
基于所述TextCNN模型的全连接层中预先训练得到的键向量计算参数,对所述字向量矩阵进行计算,得到所述键向量;
基于所述TextCNN模型的全连接层中预先训练得到的值向量计算参数,对所述字向量矩阵进行计算,得到所述值向量。
进一步地,所述基于所述字向量矩阵、调整后的所述注意力权重矩阵,通过所述TextCNN模型进行全连接层处理后再输入至融合高斯误差的softmax分类层中进行分类,得到所述语句中的每个字符的第一命名实体标注的步骤之后,包括:
将所述语句中的每个字符添加分类得到的所述命名实体标注,生成第一训练样本;
对所述第一训练样本进行放回抽样,得到多组训练样本集;并基于每一组训练样本集分别对一个初始TextCNN模型进行训练,得到对应个数的TextCNN子模型;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010333674.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:具有垂直扩散板的电容器结构
- 下一篇:内窥镜装置及系统