[发明专利]命名实体识别方法、装置、存储介质及电子设备在审
申请号: | 202011636806.1 | 申请日: | 2020-12-31 |
公开(公告)号: | CN112749562A | 公开(公告)日: | 2021-05-04 |
发明(设计)人: | 张强;丁贾明;方钊;王安宁;杨善林 | 申请(专利权)人: | 合肥工业大学 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/216;G06F40/126;G06N3/04;G06N5/04 |
代理公司: | 北京久诚知识产权代理事务所(特殊普通合伙) 11542 | 代理人: | 余罡 |
地址: | 230009 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 命名 实体 识别 方法 装置 存储 介质 电子设备 | ||
1.一种命名实体识别方法,其特征在于,所述方法包括:
获取专业领域原始数据并构建数据集;
构建BERT-BiLSTM-CRF模型,并利用所述数据集训练所述BERT-BiLSTM-CRF模型;所述BERT-BiLSTM-CRF模型包括:BERT预训练模型层、BiLSTM网络层,以及CRF推理层;
利用训练后的所述BERT-BiLSTM-CRF模型进行命名实体识别。
2.如权利要求1所述的方法,其特征在于,所述获取专业领域原始数据并构建数据集包括:
基于社交媒体获取专业领域原始数据;所述专业领域包括汽车领域;
对所述原始数据进行数据清洗、数据标准化、文本分词,以及序列标注处理,获得数据集;
将所述数据集按照一定比例分成训练集、测试集、验证集。
3.如权利要求1所述的方法,其特征在于,所述BERT预训练模型层用于将每个字符进行编码得到对应字符的字向量;所述BiLSTM网络层用于将所述字向量组成的序列双向编码获取新的特征向量;所述CRF推理层用于基于所述新的特征向量输出概率最大的标签序列。
4.如权利要求2所述的方法,其特征在于,所述方法还包括:
将所述测试集和验证集输入到训练后的所述BERT-BiLSTM-CRF模型进行测试,以评估所述BERT-BiLSTM-CRF模型的性能。
5.一种命名实体识别装置,其特征在于,所述装置包括:
数据获取模块,用于获取专业领域原始数据并构建数据集;
模型训练模块,用于构建BERT-BiLSTM-CRF模型,并利用所述数据集训练所述BERT-BiLSTM-CRF模型;所述BERT-BiLSTM-CRF模型包括:BERT预训练模型层、BiLSTM网络层,以及CRF推理层;
命名实体识别模块,用于利用训练后的所述BERT-BiLSTM-CRF模型进行命名实体识别。
6.如权利要求5所述的装置,其特征在于,所述数据获取模块获取专业领域原始数据并构建数据集包括:
基于社交媒体获取专业领域原始数据;所述专业领域包括汽车领域;
对所述原始数据进行数据清洗、数据标准化、文本分词,以及序列标注处理,获得数据集;
将所述数据集按照一定比例分成训练集、测试集、验证集。
7.如权利要求5所述的装置,其特征在于,所述模型训练模块中所述BERT预训练模型层用于将每个字符进行编码得到对应字符的字向量;所述BiLSTM网络层用于将所述字向量组成的序列双向编码获取新的特征向量;所述CRF推理层用于基于所述新的特征向量输出概率最大的标签序列。
8.如权利要求6所述的装置,其特征在于,所述装置还包括:模型性能评估模块,用于将所述测试集和验证集输入到训练后的所述BERT-BiLSTM-CRF模型进行测试,以评估所述BERT-BiLSTM-CRF模型的性能。
9.一种计算机可读存储介质,其特征在于,其存储用于命名实体识别的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-4任一项所述的命名实体识别方法。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器;以及
一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置成由所述一个或多个处理器执行,所述程序包括用于执行如权利要求1-4任一项所述的命名实体识别方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥工业大学,未经合肥工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011636806.1/1.html,转载请声明来源钻瓜专利网。