[发明专利]神经网络训练方法和装置及命名实体识别方法和装置有效
申请号: | 201810920715.7 | 申请日: | 2018-08-14 |
公开(公告)号: | CN109062901B | 公开(公告)日: | 2019-10-11 |
发明(设计)人: | 赵汉光;王珵;戴文渊 | 申请(专利权)人: | 第四范式(北京)技术有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06N3/04 |
代理公司: | 北京铭硕知识产权代理有限公司 11286 | 代理人: | 王兆赓;姜长星 |
地址: | 100085 北京市海淀区上*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了神经网络训练方法和装置及命名实体识别方法和装置。其中,用于命名实体识别的神经网络的训练方法包括:获取训练文本,以及获取训练文本的标注信息,其中,获取训练文本的标注信息包括:命名实体识别用的辅助标注和命名实体标注;将训练文本输入至所述一个或多个辅神经网络,得到每个辅神经网络输出的命名实体识别用的辅助信息;将训练文本和至少一个辅神经网络输出的辅助信息输入至主神经网络,得到主神经网络输出的命名实体信息;基于每个辅神经网络输出的辅助信息和相应的辅助标注,以及所述主神经网络输出的命名实体信息和相应的命名实体标注,计算神经网络的损失,并根据神经网络的损失对所述神经网络进行训练。 | ||
搜索关键词: | 命名实体 神经网络输出 神经网络 训练文本 方法和装置 标注 辅助信息 神经网络训练 标注信息 计算神经网络 | ||
【主权项】:
1.一种用于命名实体识别的神经网络的训练方法,其中,所述神经网络包括一个主神经网络以及一个或多个辅神经网络,主神经网络和每个辅神经网络均包括文本转换层、特征层和分类层,且主神经网络和各辅神经网络共用文本转换层和特征层,所述训练方法包括:获取训练文本,以及获取训练文本的标注信息,其中,训练文本的标注信息包括:命名实体识别用的辅助标注和命名实体标注;将训练文本输入到经过预训练的文本转换层,得到文本转换层输出的字相关信息;将文本转换层输出的字相关信息输入到特征层,获得特征层输出的训练文本中的字和上下文的关系信息;将文本转换层的输出和特征层的输出拼接在一起后,分别输入到主神经网络和每个辅神经网络的分类层,并将至少一个辅神经网络的分类层的输出信息输入到主神经网络的分类层,得到所述主神经网络输出的命名实体信息;基于每个辅神经网络输出的辅助信息和相应的辅助标注,以及所述主神经网络输出的命名实体信息和相应的命名实体标注,计算神经网络的损失,并根据神经网络的损失对所述神经网络进行训练。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于第四范式(北京)技术有限公司,未经第四范式(北京)技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810920715.7/,转载请声明来源钻瓜专利网。
- 上一篇:一种朋友圈生成方法及装置
- 下一篇:一种文本语义表达方法及装置