[发明专利]一种自注意力命名实体识别方法、装置、设备及存储介质在审
申请号: | 202010443682.9 | 申请日: | 2020-05-22 |
公开(公告)号: | CN111597816A | 公开(公告)日: | 2020-08-28 |
发明(设计)人: | 李净 | 申请(专利权)人: | 北京慧闻科技(集团)有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/205;G06F16/332;G06N3/04;G06N3/08 |
代理公司: | 北京市京师律师事务所 11665 | 代理人: | 高晓丽 |
地址: | 100000 北京市朝阳区高碑店乡半*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 注意力 命名 实体 识别 方法 装置 设备 存储 介质 | ||
1.一种自注意力命名实体识别方法,其特征在于,包括:
获取文本信息,将文本信息转换为词隐藏状态向量和句子级向量;
将词隐藏状态向量输入至自注意力层,输出得到的新的词隐藏状态向量;
基于新的词隐藏状态向量和句子级向量,进行命名实体识别得到实体识别结果。
2.如权利要求1所述的方法,其特征在于,所述将文本信息转换为词隐藏状态向量和句子级向量,包括:
将文本信息转换为词向量;
利用词向量生成词隐藏状态向量和句子级向量。
3.如权利要求2所述的方法,其特征在于,所述利用词向量生成词隐藏状态向量和句子级向量,包括:
将词向量输入至第一人工神经网络,输出得到词隐藏状态向量和句子级向量。
4.如权利要求3所述的方法,其特征在于,所述第一人工神经网络包括第一BiLSTM神经网络。
5.如权利要求1所述的方法,其特征在于,所述基于新的词隐藏状态向量和句子级向量,进行命名实体识别得到实体识别结果,包括:
将新的词隐藏状态向量和句子级向量进行拼接,得到拼接向量;
将拼接向量输入至第二人工神经网络,输出得到最终隐藏状态向量;
对最终隐藏状态向量进行命名实体识别,生成实体识别结果。
6.如权利要求5所述的方法,其特征在于,所述对最终隐藏状态向量进行命名实体识别,生成实体识别结果,包括:
将最终隐藏状态向量输入至条件随机场CRF,输出得到实体识别结果。
7.如权利要求5所述的方法,其特征在于,所述第二人工神经网络包括第二BiLSTM神经网络。
8.一种自注意力命名实体识别装置,其特征在于,包括:
转换模块,用于获取文本信息,将文本信息转换为词隐藏状态向量和句子级向量;
输入模块,用于将词隐藏状态向量输入至自注意力层,输出得到的新的词隐藏状态向量;
识别模块,用于基于新的词隐藏状态向量和句子级向量,进行命名实体识别得到实体识别结果。
9.一种自注意力命名实体识别设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述的自注意力命名实体识别方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的自注意力命名实体识别方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京慧闻科技(集团)有限公司,未经北京慧闻科技(集团)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010443682.9/1.html,转载请声明来源钻瓜专利网。